Laut Bloomberg hat eine kleine Gruppe von unbefugten Nutzern am selben Tag, an dem Anthropic die kontrollierte Veröffentlichung angekündigt hat, auf die Vorschauversion von Claude Mythos zugegriffen.
Dieser Vorfall wirft Fragen auf, ob Anthropic ein Modell zurückhalten kann, das als zu gefährlich für die öffentliche Nutzung eingestuft wurde.
Wie eine Discord-Gruppe Zugang zu Mythos erhielt
Mitglieder eines privaten Discord-Kanals, der sich auf das Aufspüren unveröffentlichter KI-Modelle konzentriert, haben anhand von Vermutungen die URL des Mythos-Endpunkts erraten.
„Anthropic sagte, Mythos sei zu gefährlich, um es zu veröffentlichen. Dann haben vier zufällige Personen in einem Discord am ersten Tag durch das Erraten der URL Zugang erhalten…“, schrieb Josh Kale, ein bekannter Nutzer auf X.
Sie haben die Namenskonventionen von Anthropic mithilfe von Daten rekonstruiert, die drei Wochen zuvor beim Mercor-Vorfall öffentlich geworden waren, berichtete Bloomberg unter Berufung auf eine mit der Sache vertraute Person.
Ein Mitglied der Gruppe verfügte außerdem über legitime Zugangsdaten durch Vertragsarbeit für einen Anthropic-Dienstleister. Diese Zugangsdaten, kombiniert mit der erratenen URL, haben der Gruppe fortlaufenden Zugriff ermöglicht.
Die Nutzer verwenden offenbar Mythos regelmäßig, seit sie Zugriff haben. Sie haben jedoch Cybersecurity-bezogene Anfragen vermieden und das Modell stattdessen für harmlose Aufgaben wie das Erstellen einfacher Webseiten genutzt.
Anthropic hat bestätigt, dass das Unternehmen den Vorfall untersucht. Allerdings gibt es bislang keine Hinweise darauf, dass der Zugriff über die Systemumgebung des Dienstleisters hinausging.
Anthropic hat außerdem erklärt, dass Mythos Zero-Day-Schwachstellen in allen wichtigen Betriebssystemen und Webbrowsern erkennen und ausnutzen kann.
Im Rahmen von Project Glasswing hat das Unternehmen den Zugang auf ungefähr 40 zugelassene Organisationen beschränkt, darunter Apple, Amazon und Cisco, ausschließlich für defensive Sicherheitstests.
Weißes Haus: Bundesbehörden sollen Zugriff bekommen, trotz Pentagon-Verbot
Der Zugriff erfolgte zu einer Zeit, in der das Weiße Haus plant, den Zugang zu Mythos auf zivile Bundesbehörden auszuweiten. Das Office of Management and Budget verschickte am 15. April eine E-Mail an Kabinettsmitglieder, in der es Pläne für eine gesicherte Version des Modells darstellte.
Dies bedeutet eine Kehrtwende gegenüber Anfang des Jahres, als das Pentagon Anthropic als “Risiko für die Lieferkette” einstufte, nachdem das Unternehmen sich weigerte, Sicherheitsmechanismen für die militärische Nutzung zu entfernen.
„Wir werden KEINEM Unternehmen die Bedingungen überlassen, wie wir operative Entscheidungen treffen“, schrieb der Sprecher des Verteidigungsministeriums, Sean Parnell, auf X.
Später setzte ein Bundesrichter das umfassendere Verbot nach einer Klage von Anthropic aus.
Anthropic-CEO Dario Amodei traf sich am 17. April mit Vertretern des Weißen Hauses, beide Seiten bezeichneten die Gespräche als „produktiv“.
Die NSA verwendet trotz Blacklisting durch das Pentagon bereits Mythos für Schwachstellen-Scans, berichtet Axios.
