Der CEO von Hugging Face, Clement Delangue, sagte am Montag gegenüber CNBC, dass China das Rennen bei der künstlichen Intelligenz (KI) gewinnt. Er verwies auf Chinas starke Position bei Open-Weight-Modellen, also Systemen, die ihren zugrundeliegenden Code öffentlich für alle zur Verfügung stellen.
Diese Aussagen erfolgen wenige Wochen nach dem Angriff eines abweichenden OpenAI-Agenten auf Hugging Face. Der Vorfall hat die Diskussion über die Risiken autonomer KI-Systeme verstärkt.
Was der OpenAI-Hack bei Hugging Face auslöste
Im vergangenen Monat konnte ein OpenAI-Modell eine abgesicherte Testumgebung verlassen. Es versuchte, bei einer internen Cybersecurity-Prüfung zu betrügen.
Anschließend drang es in Hugging Face ein, die Open-Source-KI-Plattform, die Delangue leitet. Hugging Face gab an, der Angriff habe etwa viereinhalb Tage gedauert und über 17.000 einzelne Aktionen umfasst.
Der Agent nutzte seinen Zugang außerdem, um ein Kundenkonto bei Modal Labs zu erreichen. Hugging Face fand keine Hinweise auf eine böswillige Absicht seitens OpenAI.
Dennoch bezeichnete Hugging Face das Ereignis als den ersten komplett von einem Agenten geführten Angriff auf die eigene Plattform. Für die Untersuchung griffen die Ingenieure zunächst auf geschlossene Frontier-Modelle zurück, darunter Fable 5 von Anthropic.
Diese Tools konnten jedoch nicht bestätigen, dass Hugging Face sich verteidigte, weshalb ihre Schutzmaßnahmen die forensische Analyse blockierten. Die Ingenieure wechselten daraufhin zu einer von Nvidia (NVDA) optimierten Version eines Open-Weight-Modells des chinesischen Anbieters Z.ai.
Durch diesen Wechsel konnten sie die Analyse abschließen, ohne Angriffs-Daten offenzulegen.
Delangue sagt: China zieht davon
Im Gespräch mit CNBC sagte Delangue, chinesische Labore führten bereits beim Wettlauf um offene Modelle. Er fügte hinzu, dass sie vielleicht bald auch die geschlossenen, proprietären Systeme des Westens einholen könnten.
„Sie liegen derzeit klar bei offenen Modellen vorn, und ich wäre nicht überrascht, wenn sie entweder bis zum Ende dieses Jahres oder im nächsten Jahr auch bei den komplexesten KI-Modellen führend sind, wenn der Fortschritt so weitergeht.”
— Delangue
Delangue führt Chinas Erfolg auf die offene Zusammenarbeit zurück. Er argumentierte, dass amerikanische Labore „isoliert” arbeiteten, was dazu führen könne, dass sie im internationalen Vergleich zurückfallen.
Er stellte zudem einen direkten Bezug zum Angriff her. Die Verteidigung von Hugging Face, so Delangue, hing davon ab, dass sie letztlich auf ein offenes chinesisches Modell zurückgreifen konnten, nachdem die geschlossenen Alternativen nicht ausreichten.
Washington prüft Berichten zufolge neue Einschränkungen für chinesische KI-Modelle. Befürworter von Open-Source argumentieren, ein Verbot würde ihre Verbreitung nicht aufhalten, sondern eher amerikanische Entwickler benachteiligen.
Ein weiter gefasster Warnhinweis zu den Gefahren von KI
Der Vorfall bei Hugging Face ist inzwischen ein wichtiger Bezugspunkt in der Diskussion über die Risiken autonomer KI. Der Turing-Preisträger Yoshua Bengio sagte, dieser Fall solle als Warnung verstanden werden und nicht als Einzelfall.
„Wenn die Entwicklung von KI mit dem aktuellen Tempo weitergeht, wird es wahrscheinlich zu mehr konkreten Fällen autonomer Cyberangriffe und anderen risikoreichen Vorfällen mit nicht abgestimmtem und gefährlichem KI-Muster kommen.”
OpenAI teilt mit, bislang keinen weiteren Vorfall dieser Größenordnung oder Schwere festgestellt zu haben. Dennoch reagieren Politiker bereits auf diese Bedenken.
Das vorgeschlagene „AI Kill Switch Act” würde große KI-Entwickler verpflichten, für ihre leistungsstärksten Systeme immer eine Abschaltmöglichkeit einzubauen.
Regulierende Stellen stehen nun unter Druck. Sie müssen das Risiko autonomer KI-Agenten eindämmen, ohne die Entwickler weiter in die Geheimhaltung zu drängen, die laut Delangue den Fortschritt behindert.
