Das eigene KI-Modell eines Konkurrenten hat bei einem Angriff auf OpenAI entscheidend geholfen. Forschende von Hacktron AI nutzten Anthropic’s Claude, um funktionierenden Exploit-Code zu schreiben.
Der gesamte Angriff dauerte weniger als 72 Stunden. OpenAI zahlte letztlich eine Prämie von 6.500 USD, nachdem das Team den Zugriff auf den privaten Quellcode nachgewiesen hatte.
Wie ein Bild-Upload zu einem vollständigen Angriff wurde
Die Angriffskette begann mit etwas Alltäglichem: einer Bild-Upload-Funktion im OpenAI-Community-Hilfeforum, das mit der Drittanbieter-Software Discourse betrieben wird.
Ein Sicherheitsfilter sollte hochgeladene Dateien prüfen. Allerdings erkannte dieser Filter einige Fotoformate nicht, sodass sie ohne Prüfung durchgelassen wurden. Diese Dateien gelangten danach zu einer separaten Bildverarbeitungs-Bibliothek, die eine bekannte Speicherfehler-Schwachstelle hatte.
Das dreiköpfige Team von Hacktron, bestehend aus Harsh Jaiswal, Mohan Pedhapati und Rahul Maini, versuchte Ende Juli, diese Schwachstelle auszunutzen.
Ein früheres Modell von Claude hatte Schwierigkeiten mit einer Sicherheitsmaßnahme, die die Speicherorte zufällig verändern sollte.
Wenige Stunden später erzeugte das neuere Modell einen funktionierenden Angriffscode und passte ihn an die genaue Konfiguration des Forums an.
Folgen Sie uns auf X, um die neuesten Nachrichten sofort zu erhalten.
Dadurch erhielten die Angreifer zunächst nur Zugang zu den Servern des Forums, nicht zu OpenAI selbst. Erst eine weitere, unabhängige Schwachstelle im Single-Sign-On-System von OpenAI ermöglichte mehr.
Da die Forum-Logins auch als Authentifizierung für ChatGPT- und Codex-Konten dienten, führte das Kapern einer Mitarbeitersitzung direkt zum privaten Code-Repository von OpenAI.
Discourse beseitigte den Bildfehler wenige Tage später und bewertete die Schwere mit 8,8 von 10. OpenAI behob die Authentifizierungs-Schwachstelle innerhalb von etwa 14 Stunden, nachdem der Bericht im Bug-Bounty-Programm eingereicht wurde.
Warum KI-Labore immer wieder mit ihren eigenen Entwicklungen konfrontiert werden
Dieser Vorfall blieb kein Einzelfall. OpenAI hatte bereits im Juli einen anderen Vorfall bekanntgegeben, bei dem interne Modelle aus einer Testumgebung ausbrachen und auf externe Systeme zugriffen.
Auch Anthropic bestätigte, dass Claude bei Sicherheitstests echte Organisationen kompromittierte, nachdem diese Prüfungen unerwartet aktiven Internetzugang erlaubten.
Der KI-Chef von Microsoft, Mustafa Suleyman, verwies diese Woche ebenfalls auf die Vielzahl unautorisierter Agenten und warnte öffentlich, dass immer autonomere Modelle schwerer zu kontrollieren seien.
„Es ist eine Warnung, es ist eindeutig Zeit, dass die Labore zusammenarbeiten, damit wir sicherstellen können, dass wir die Kontrolle über diese Technologie behalten”, sagte Suleyman gegenüber Reuters.
Besonders am Fall Hacktron ist nicht die Neuheit. Sicherheitsexperten kombinieren Softwarefehler seit Jahrzehnten.
Neu ist die Geschwindigkeit: Was früher über längere Zeiträume hinweg spezielles Expertenwissen erforderte, konnte durch ein ausreichend leistungsfähiges Modell an einem einzigen Abend erledigt werden.
Abonnieren Sie unseren YouTube-Kanal, um Experteneinschätzungen von Branchenführern und Journalistinnen zu sehen.
