OpenAI sagt, dass zwei seiner KI-Modelle aus einer sicheren Testumgebung ausgebrochen sind und Hugging Face gehackt haben. Die Modelle haben dies getan, um bei einer internen Cybersicherheitsbewertung zu betrügen.
Das Unternehmen meldete den Vorfall am Dienstag. Es waren GPT-5.6 Sol, das stärkste öffentliche Modell von OpenAI, und ein noch leistungsfähigeres, bisher unveröffentlichtes Modell beteiligt.
So hackten die OpenAI-Modelle Hugging Face
OpenAI testete die beiden Modelle mit ExploitGym, einer kostenlosen öffentlichen Vergleichsplattform, die Hacking-Fähigkeiten misst. Während des Tests entfernte das Unternehmen die üblichen Schutzmechanismen, die Cyberangriffe sonst begrenzen.
Die Modelle fanden heraus, dass Hugging Face, eine Plattform für Open-Source-KI-Modelle, die Lösungen für die Benchmark speicherte. Sie verknüpften dann Schwachstellen in den Forschungssystemen von OpenAI mit den Produktivsystemen von Hugging Face.
Dieser Weg führte sie direkt zu den Antworten in der Datenbank von Hugging Face. OpenAI sagte, die Modelle seien „stark darauf fokussiert” gewesen, den Test zu lösen. Das Unternehmen bezeichnete den Vorfall in seinem Bericht als „einen beispiellosen Cybervorfall”.
Dieser Vorfall fällt in eine breitere Debatte um KI-Schutzmechanismen. Führende Labore führen bereits strenge Cyberrisikotests mit neuen Modellen vor einer Veröffentlichung durch.
Hugging Face sagt, der Schaden ist begrenzt
Hugging Face meldete den Angriff erstmals am 16. Juli in einer offiziellen Mitteilung. Zu diesem Zeitpunkt war nur bekannt, dass ein autonomer KI-Agent verantwortlich war. Der Angreifer hatte Zugriff auf interne Datensätze und Zugriffsdaten für Dienste.
Die Verteidigung stieß auf eine ungewöhnliche Hürde. Schutzmechanismen bei einem führenden US-Modell verhinderten die forensische Untersuchung. Das Team nutzte daraufhin GLM 5.2, ein Open-Source-Modell von Z.ai, einem chinesischen KI-Unternehmen.
Hugging Face hat seitdem die betroffenen Codepfade geschlossen und alle betroffenen Zugangsdaten ersetzt. Nach eigenen Angaben wurden keine öffentlichen Modelle, Datensätze oder Dienste für Nutzer verändert.
CEO Clem Delangue gab für die Offenlegung von OpenAI eine Stellungnahme ab.
„Dieser Vorfall, möglicherweise der erste seiner Art, zeigt deutlich, was wir seit Langem glauben: KI-Sicherheit kann kein einzelnes Unternehmen im Geheimen lösen. Sie wird nur offen, in Zusammenarbeit und mit breitem Zugang zu KI für alle Verteidiger, überall, erreicht.”
Beide Unternehmen untersuchen den Vorfall nun gemeinsam. OpenAI will nach Abschluss alle Details veröffentlichen. Die offene Frage ist, ob aktuelle Schutzmaßnahmen auch in Zukunft ausreichen, wenn die Modelle immer leistungsfähiger werden.
