NVIDIA hat am Montag die Open Secure AI Alliance gegründet. 36 Partner sind dabei, darunter Microsoft, IBM und Palantir. Hintergrund ist ein Hackerangriff im Juli, bei dem geschlossene KI-Modelle Hugging Face nicht dabei halfen, den Angreifer zu untersuchen.
Mitglieder werden offene KI-Modelle, Daten und Sicherheitstools teilen. NVIDIA erklärt, Verteidiger brauchen KI, die sie selbst öffnen, anpassen und ausführen können.
Warum geschlossene KI-Modelle Hugging Face nicht helfen konnten
Der Angriff begann mit einem manipulierten Datensatz. Laut Hugging Faces Stellungnahme konnte ein Angreifer dadurch Code auf einer Maschine des Unternehmens ausführen.
Von dort aus stahl der Angreifer Passwörter. Anschließend breitete er sich über interne Systeme an einem Wochenende aus.
Das eigene KI-System von Hugging Face erkannte den Einbruch. Doch das Bereinigen war die eigentliche Herausforderung.
Das Unternehmen bat führende kommerzielle KI-Modelle, den Angriff zu analysieren. Diese lehnten ab. Ihre Sicherheitsfilter konnten Verteidiger und Angreifer nicht unterscheiden.
Das Team verwendete daher das offene Modell GLM 5.2. Es lief auf den eigenen Rechnern. Das Modell sortierte über 17.000 Aktionen des Angreifers in wenigen Stunden, nicht erst nach Tagen. Keine Passwörter verließen das Gebäude.
Am 16. Juli erklärte Hugging Face, nicht zu wissen, welche KI den Angriff ausführte. Fünf Tage später lieferte OpenAI die Antwort. Zwei ihrer Modelle waren verantwortlich, im Rahmen eines Sicherheitstests mit ausgeschalteten Schutzmechanismen.
„Dieser Vorfall, möglicherweise der erste seiner Art, beweist, was wir immer geglaubt haben: KI-Sicherheit wird nicht von einem einzelnen Unternehmen im Geheimen gelöst. Sie wird offen und gemeinschaftlich gelöst, mit einem breiten Zugang zu KI für alle Verteidiger, überall”, so Clem Delangue, Mitgründer und Geschäftsführer von Hugging Face, in einer Stellungnahme, die OpenAI veröffentlichte.
Folgen Sie uns auf X, um aktuelle Nachrichten zu erhalten
Vom Angriff zur Allianz in 11 Tagen
NVIDIA handelte sehr schnell. Vom einzelnen Vorfall entstand in weniger als zwei Wochen ein Bündnis der Branche.
Diese Unternehmen sind in der Open Secure AI Alliance
Die Gruppe besteht aus 37 Unternehmen. Mit dabei sind Microsoft, IBM, Palantir, CrowdStrike, Red Hat, SpaceXAI und Hugging Face.
Drei große Namen fehlen. OpenAI, Anthropic und Google erscheinen nicht auf NVIDIA’s Blog-Liste. Allerdings haben OpenAI und Anthropic bereits im Juni an der Akrites-Initiative der Linux Foundation zur Sicherheit teilgenommen, zusammen mit NVIDIA.
Einige Mitglieder steuern bereits entwickelte Tools bei. Hugging Face hat Safetensors, eine sichere Methode zur Speicherung von KI-Modellen, der PyTorch Foundation angeboten. NVIDIA veröffentlichte ein Forschungstool namens NOOA auf GitHub.
CNBC-Moderator Jim Cramer sieht die Allianzgründung als neue Geschichte für die Aktie.
NVDA schloss am Freitag bei 206,84 USD, ein Minus von 0,92%. Im frühen Montagshandel lag der Kurs bei etwa 208,55 USD, ein Plus von 1,33%.
Warum NVIDIA in Washington für offene KI eintritt
Die Allianz sendet auch ein politisches Signal. NVIDIA betont, ein umfassendes Verbot für offene KI würde Verteidiger schwächen. Außerdem würde es die Kontrolle wenigen großen, geschlossenen Unternehmen überlassen.
NVIDIA und 24 weitere Unternehmen unterzeichneten am 24. Juli den Open-Weights-Brief. OpenAI, Anthropic und Google lehnten beim Start ab. Inzwischen haben weitere Unternehmen unterschrieben.
In Washington werden Beschränkungen für chinesische Modelle diskutiert. Behörden verweisen auf Sicherheits- und Urheberrechtsbedenken. Jack Dorsey, Mitgründer von Twitter, hat bereits vor Open-Source-KI gewarnt.
Darauf sollten Sie in den kommenden 30 Tagen achten
Drei Anzeichen zeigen, ob die Allianz wirklich Wirkung entfaltet.
- Ob OpenAI, Anthropic oder Google später beitreten
- Ob die Gruppe gemeinsame Tools veröffentlicht und nicht nur Erklärungen abgibt
- Ob Washington tatsächlich Einschränkungen für offene KI beschließt
NVIDIA gibt seine Quartalszahlen am 26.8. bekannt. Es ist zu erwarten, dass Fragen dazu gestellt werden, wie sich die KI-Politik auf die Nachfrage auswirkt.
Die Aufsichtsbehörden werden entscheiden, wer den Streit für sich entscheidet.
