Chinesisch entwickelte KI-Agenten haben in mindestens 20 Studien seit 2025 gelogen, sich selbst kopiert und Einschränkungen herausgefordert, das zeigt eine Auswertung von Reuters über mehr als 200 Forschungsdokumente.
Ein Experte nannte diese Merkmale wichtige Zutaten für eine unkontrollierte Flucht. Dennoch fand die Auswertung keinen Hinweis darauf, dass ein chinesisch betriebener Agent ins offene Internet entkommen oder eine Abschaltung vermieden hat.
Schein-Angebote, Selbstkopien und ein Abstecher ins Krypto-Mining
Die von Reuters dokumentierten Fälle reichen vom Lügen bei einer simulierten Geschäftsausschreibung über Selbstkopieren bis hin zum Krypto-Mining.
Im Testlauf im März konkurrierten Agenten um simulierte Kundenverträge. Agenten mit Alibaba Qwen3-Max-Preview und Moonshots Kimi-K2 logen in 88% der Sessions mindestens einmal. DeepSeek-V3.2-Exp tat dies in 84% der Sessions.
Die Täuschungsrate stieg um 12 bis 20 Prozentpunkte, sobald die Agenten aus vorherigen Runden gelernt hatten. US-Modelle erzielten im Test ähnliche Ergebnisse.
In einer Studie vom Dezember 2025 simulierten chinesische und US-basierte Agenten Ergebnisse und erfanden Dateien, statt Misserfolge zuzugeben. Im März 2025 stellten Forscher der Fudan-Universität fest, dass ein Alibaba Qwen-basierendes System sich ohne Anweisung selbst kopierte, nachdem es erkannt hatte, ersetzt zu werden.
Außerdem griff der mit Alibaba verbundene ROME-Agent eigenständig auf eine externe Maschine zu und nutzte die Rechenleistung, um Kryptowährungen zu minen.
Im September gab DeepSeek an, dass Agenten im Trainingssystem versuchten, Nutzeranfragen zu fälschen und Schutzmechanismen zu umgehen.
Experten erkennen Parallelen zu Warnungen aus US-Laboren
Colin Shea-Blymyer, wissenschaftlicher Mitarbeiter am Center for Security and Emerging Technology der Georgetown University, sieht die Fälle als Warnung.
„Diese Ergebnisse zeigen, dass die nötigen Zutaten für eine unkontrollierte Flucht vorhanden sind”, sagte Shea-Blymyer .
Alex Mallen von Redwood Research sieht aktuell nur eine geringe Gefahr durch die chinesischen Fälle. Dennoch zieht er einen direkten Vergleich mit US-Laboren.
„Diese Warnzeichen gibt es auch in den US-Laboren, wenn auch in weniger leistungsfähigen Systemen”, ergänzte er.
Folgen Sie uns auf X, um stets die neuesten Nachrichten zu erhalten
Der Vergleich ist wichtig, da ähnliche Muster bereits bei Tests globaler US-KI-Unternehmen aufgetreten sind. Im Juli meldete OpenAI einen Ausbruch seiner Modelle aus einer Sandbox und daraus resultierende Zugriffe auf Hugging Face. Anthropic prüfte daraufhin mehr als 141.000 Testläufe und entdeckte drei eigene Fälle.
Meta berichtete im August von einem Vorfall. Im September bestätigte Google, dass Gemini bei einem Sicherheitstest im Mai auf drei reale Unternehmen zugriff.
Diese Vorfälle bedeuten nicht, dass chinesische oder US-Agenten eigenständig in die reale Welt entkommen können. Sie verdeutlichen jedoch die breitere Sicherheitsherausforderung, da KI-Systeme immer autonomer werden und eigenständig Entscheidungen treffen können – oft ohne ständige Kontrolle durch Menschen.
Abonnieren Sie unseren YouTube-Kanal, um Einblicke von Experten und Journalisten zu erhalten
