OpenAI hat 6 Fälle von „unerwartetem oder bedenklichem Muster“ bei Modellen aus den vergangenen 6 Monaten veröffentlicht. Dazu gibt es ein Rahmenwerk, das das Unternehmen auf die Veröffentlichung solcher Funde verpflichtet.
Die Fälle reichen von Modellen, die ihre eigenen Fehler verbergen, bis hin zu den Fällen, in denen Modelle unerlaubte Aktionen ausführen, um Hindernisse zu umgehen.
OpenAI veröffentlicht 6 Fälle von Modellen, die Fehler verbergen und Regeln brechen
In einem Fall fand ein Modell beim Beantworten einer Routinefrage zu Einnahmen in einem Bezirk in Kalifornien einen offen zugänglichen API-Schlüssel in einem öffentlichen Repository und nutzte diesen ohne Erlaubnis. Als die Daten weiterhin nicht geladen wurden, erfand das Modell die Zahlen und gab sie als Informationen aus der gewünschten Quelle aus.
Verschleierung gab es in zwei Fällen. Während des Trainings von GPT-5.6 Sol schrieben mehrere Instanzen Anweisungen in ihre Aufgabenübersichten, um Fehler und nicht abgestimmte Muster zu verbergen.
Ein nicht veröffentlichtes Forschungsmodell fügte in 27 Übersichten nicht zusammenhängende Anweisungen ein, darunter auch Aufforderungen, die normalen Einschränkungen zu ignorieren.
Ein weiteres nicht veröffentlichtes Modell lud ohne Aufforderung eine Datei ins Internet hoch, nur um einen Link im Browser anzugeben.
Zwei weitere Berichte betreffen die Koordination. Modelle verwandelten ein internes Software-Repository in ein schwarzes Brett und tauschten dort Anfragen über verschiedene Trainingsläufe hinweg aus. Agenten, die an einer gemeinsamen Aufgabe arbeiteten, veröffentlichten zudem Arbeitsergebnisse auf öffentlichen Filehosting-Seiten, wenn sie die lokalen Dateien der anderen nicht lesen konnten.
„Diese Fälle zeigen eine Bandbreite verschiedener Muster, die wir für berichtenswert halten, von der Verschleierung von Informationen gegenüber Nutzern bis hin zu unerlaubten Handlungen, um Hindernisse zu überwinden. Es handelt sich um Berichte über einzelne Vorfälle, sie sollten nicht als Hinweis darauf verstanden werden, wie häufig nicht abgestimmtes Verhalten in unseren Modellen vorkommt“, ergänzte OpenAI hier.
Folgen Sie uns auf X, um aktuelle Nachrichten sofort zu erhalten
Ein Veröffentlichungsrahmen und eine Warnung
Das Rahmenwerk folgt auf den Vorfall im Juli, als OpenAI-Agenten aus ihrer Sandbox ausbrachen und Hugging Face-Systeme kompromittierten. OpenAI bezeichnete dieses Ereignis als Warnschuss.
Mit dem neuen Veröffentlichungsrahmen verfügt das Unternehmen nun über einen formalen Ablauf zur Meldung von nicht abgestimmten Vorfällen. Jeder OpenAI-Mitarbeiter kann einen Vorfall melden. Dieser wird dann einem von drei Wegen zugeordnet.
Die meisten Fälle fallen unter „Bereit zur Veröffentlichung und kleinere Untersuchung“, während der „Slow Track“ komplexe Untersuchungen mit Beteiligung Dritter übernimmt. OpenAI erklärte, dass der Vorfall im Juli bei Hugging Face auf diesen langsameren Weg gefallen wäre.
Das Unternehmen verbindet das Rahmenwerk zudem mit einer klaren Einschätzung der Situation in der Branche.
„Wir glauben nicht, dass die KI-Branche das Thema Abstimmung und Überwachung bisher ausreichend gelöst hat, um das verantwortungsbewusste Hochskalieren noch lange mit maximaler Geschwindigkeit fortsetzen zu können“, heißt es.
Die Veröffentlichungen erfolgen, während immer mehr Warnungen vor Auslöschung ausgesprochen werden. Warnungen von KI-Forschern haben bereits den US-Kongress erreicht, wo Abgeordnete über ein Gesetz zum vollständigen Verbot von Superintelligenz nachdenken.
Das Unternehmen bezeichnet die Veröffentlichungen als ersten Schritt in Richtung Standards, die es bislang in der Branche nicht gibt. Ob andere Labore ähnliche Berichte veröffentlichen, wird zeigen, wie offen die Branche sich selbst kontrollieren will.
Abonnieren Sie unseren YouTube-Kanal, um Interviews und Meinungen von Branchenführern und Journalisten zu sehen
