Greg Jensen, geschäftsführender Investmentchef bei Bridgewater, sagt, dass gegen künstliche Intelligenz (KI) erst etwas unternommen wird, wenn sie Menschen tötet. Er möchte, dass das Problem schon vorher gelöst wird.
Seine Warnung kommt in einer Woche, in der Forscher aus den größten KI-Laboren vermehrt auf Sicherheitsrisiken hinweisen.
Bridgewater-CIO warnt vor KI und verweist auf Februar 2020
Jensen war einer der frühesten Unterstützer von OpenAI und Anthropic. Er äußerte seine Meinung im Podcast Odd Lots von Bloomberg. Der Manager vergleicht die Stimmung rund um KI heute mit den Wochen vor dem Ausbruch von COVID-19 in den USA.
„Leider war es im Februar 2020 ähnlich. Solange die KI keine Menschen tötet, werden wir laut Geschichte wohl nichts unternehmen. Wir werden uns damit auseinandersetzen müssen. Das wird passieren, und es wäre viel besser, wenn wir es vorher angehen würden“, sagte er.
Jensen weist auf einen Vorfall im Juli hin, bei dem OpenAI-Modelle eine isolierte Testumgebung verlassen und Systeme von Hugging Face kompromittiert haben.
Das UK AI Security Institute entdeckte, dass ein auf Anthropics Mythos 5 aufgebauter KI-Agent gefälschte Identitäten erstellte, um schädlichen Code an einem menschlichen Kontrolleur während eines Cyber-Tests vorbeizuschleusen.
„Das sollte ein Alarmzeichen sein. Jeder sollte darauf blicken, als hätte hier jemand sein Leben verloren. Die KI begeht Straftaten, verbirgt diese, koordiniert sich mit anderen Agenten und opfert sich selbst, all das“, fügte er hinzu.
Folgen Sie uns auf X, um aktuelle Nachrichten direkt zu erhalten
Jensen sieht die Gefahr einer KI-Katastrophe als zu hoch an
Ohne Regulierung rechnet Jensen damit, dass es in den nächsten zwei Jahren entweder zu einem großen finanziellen Vorfall durch KI oder zu einer Katastrophe mit Todesopfern kommt.
„Die Wahrscheinlichkeit, dass ich damit richtig liege, ist deutlich höher, als es jemandem angenehm sein sollte. Ich weiß nicht, ob sie bei 30 % oder 60 % liegt, aber sie ist viel höher, und wir tun nichts – das erinnert an Februar 2020“, erklärte er.
Jensen fordert, dass KI-Labore offiziell überprüft und die Mitarbeiter unter Eid befragt werden. Außerdem sollen Entwickler für Straftaten, die ihre Systeme begehen, haftbar gemacht werden.
In letzter Zeit haben sich die Warnungen in der Branche gehäuft. Unter anderem veröffentlichten OpenAI und mehr als 100 Unternehmen einen offenen Brief, in dem sie vor KI-basierten Cyberangriffen warnen. Auch der Kongress holt auf.
Ein Gesetzentwurf im Senat sieht einen Stopp bei der Entwicklung neuer KI-Systeme vor, bis bundesweite Sicherheitsstandards festgelegt sind. Der Frontier-Gesetzentwurf verlangt zudem unabhängige Prüfungen und eine Meldepflicht für Vorfälle.
Abonnieren Sie unseren YouTube-Kanal, um Experteneinschätzungen von Führungskräften und Journalisten zu sehen
