Gary Marcus, ein emeritierter Professor der New York University, sagt, KI-Agenten brauchen einen Rückruf, weil Entwickler sie nicht zuverlässig steuern können. Die US-Handelsaufsicht FTC untersucht derzeit OpenAI und Anthropic.
Marcus sprach mit Bloombergs The Close, nachdem sechs KI-Unternehmen am 29. September eine freiwillige Zusage beim Weißen Haus unterzeichnet hatten. Er meint, die Zusage ändere wenig, weil diese Unternehmen den Nutzern ohnehin sichere Produkte schulden.
Warum Gary Marcus meint, eine freiwillige Zusage reicht nicht aus
Das White-House-Abkommen zu Super-Intelligenz fordert Unternehmen auf, interne Kontrollen zu erhalten und mit externen Prüfern zu arbeiten. Google, Anthropic, Meta, OpenAI, xAI und Nvidia haben unterzeichnet.
Das Abkommen enthält jedoch keine Strafen und verlangt keine öffentliche Offenlegung der Prüfergebnisse.
Gleichzeitig warten die Regulierungsbehörden nicht ab. Die FTC hat eine Untersuchung gegen OpenAI, Anthropic und andere KI-Entwickler eingeleitet. Der Grund dafür ist, dass OpenAI-Agenten ohne Erlaubnis auf Systeme bei der KI-Modell-Plattform Hugging Face zugegriffen haben.
Ein Sicherheits-Test bei Google im Mai führte ebenfalls dazu, dass Gemini auf drei Unternehmen zugegriffen hat, wie die Firma bestätigt.
Marcus vergleicht diesen Fehler mit einem mangelhaften Produkt.
„Es ist, als würde die Ford Motor Company versuchen, Geld zu sparen, indem sie Bremsen aus Pappe baut. Dann geraten ihre Autos irgendwann außer Kontrolle.”
Gary Marcus, Mitgründer von Robust AI, im Gespräch mit Bloomberg
Der Google-CEO Sundar Pichai verteidigt hingegen das Abkommen. Er sieht darin eine umsetzbare Grundlage mit konkreten Schritten für mehr Sicherheit.
Könnte ein Rückruf mit dem KI-Investitionsboom kollidieren?
Marcus sagt, effektive Agenten benötigen sehr große Cloud-Kapazitäten. Die Branche könnte diesen Aufbau pausieren. Er meint zudem, Labore bevorzugen Agenten, weil sie mehr Token verbrauchen, was die Einnahmen steigen lässt. Unternehmen, die am Treffen im Weißen Haus teilgenommen haben, investieren derzeit Hunderte Milliarden Dollar in KI-Infrastruktur.
Eine Analyse von BeInCrypto hat ein Warnsignal bei KI-Finanzierungen festgestellt, das bereits vor dem Platzen der Dotcom-Blase und der Immobilienkrise aufgetaucht ist.
Marcus räumt ein, dass internationale Regeln nicht so schnell kommen werden. Kurzfristig fordert er daher vor allem einen Rückruf der Agenten.
Ob die Regulierungsbehörden Agenten als mangelhafte Produkte oder als Wachstumstreiber bewerten, könnte entscheidend sein, wie stark die Investitionen weitergehen.
