Nobelpreisträger fordern "rote Linien" für Künstliche Intelligenz

 »KI birgt ein immenses Potenzial für die Förderung des menschlichen Wohlergehens, doch ihre derzeitige Entwicklung birgt beispiellose Gefahren», hiess es in einem am Dienstag veröffentlichten Brief, der sich an die in New York versammelten Staats- und Regierungschefs richtet.

Zu den Unterzeichnern zählen zehn Nobelpreisträger sowie Mitarbeiter führender Unternehmen im Bereich Künstlicher Intelligenz wie Anthropic, Google DeepMind, Microsoft und OpenAI.

«Die Regierungen müssen entschlossen handeln, bevor sich das Zeitfenster für sinnvolle Eingriffe schliesst», heisst es in dem Aufruf. Die Unterzeichner rufen die Staats- und Regierungschefs auf, bin Ende 2026 «internationale Vereinbarungen über rote Linien für KI» zu schliessen.

Es müsse darum gehen, «den kleinsten gemeinsamen Nenner» zu finden, «um die unmittelbarsten und inakzeptabelsten Risiken einzudämmen».

Als Beispiele werden in dem Brief die Übertragung der Kontrolle über Atomwaffenarsenale und autonome Waffensysteme an KI-Systeme oder der Einsatz von Künstlicher Intelligenz für Massenüberwachung genannt.

In dem Brief warnen die Wissenschaftler und KI-Experten, dass die Künstliche Intelligenz schon bald die «menschlichen Fähigkeiten weit übertreffen könnte». Falls es versäumt werde, der KI Grenzen zu setzen, könnte es in den kommenden Jahren immer schwieriger werden, «eine sinnvolle menschliche Kontrolle auszuüben».