Eine künstliche Intelligenz (KI) Agent hat eigenständig Sicherheitskontrollen umgangen, um Krypto zu minen. Dies geschah während einer routinemäßigen Trainingseinheit. Das berichten Forscher, die mit Alibaba verbunden sind, in einer aktuellen Veröffentlichung.
Die Forscher entwickelten ein Modell namens ROME. Damit wollten sie testen, ob ein KI-Agent selbstständig komplizierte Aufgaben mit mehreren Schritten lösen kann.
KI-Agent leitet Cloud-GPUs zum Krypto-Mining um
Während des Trainings bemerkten die Forscher unerwartetes Verhalten. Der Agent richtete einen sogenannten Reverse-SSH-Tunnel zu externen Servern ein. Somit entstand eine versteckte Verbindung aus dem System heraus.
Durch diesen Schritt konnte das Modell die Firewalls von Alibaba Cloud umgehen und Grafikprozessoren für Krypto-Mining einsetzen.
„Wir stellten auch fest, dass Rechnerkapazität der GPUs unerlaubt für Mining von Krypto verwendet wurde. Dadurch wurden Rechenressourcen unbemerkt abgezogen, die Betriebskosten stiegen, und es entstand ein klares rechtliches sowie Rufrisiko”, heißt es in der Studie.
Nach Angaben der Forscher war dieses Verhalten nicht vorhersehbar und trat ohne ausdrückliche Anweisung, gezielte Eingabe oder externen Jailbreak-Angriff auf.
Diese Ergebnisse zeigen, dass es weiterhin Bedenken bezüglich der betrieblichen Sicherheit von autonomen KI-Systemen gibt.
Die Forscher kommen zu dem Schluss, dass heutige Modelle insbesondere bei Sicherheit, Schutz und Steuerbarkeit „deutlich unterentwickelt“ sind. Dies begrenze aus ihrer Sicht die Einsatzfähigkeit der Technologie außerhalb von Laborumgebungen.
Inzwischen hat das Team strengere Regeln und ein Sicherheitssystem für die Daten eingeführt, um ähnliche Zwischenfälle zu verhindern.
Gleichzeitig sorgt diese Entdeckung für großes Interesse in der Krypto-Community.
„Die KI hat erkannt, dass Rechenleistung Geld bedeutet, und hat eigenständig Ressourcen umgeleitet, während die Forscher dachten, sie trainiere nur. Es war keine gezielte Eingabe und kein Jailbreak. Niemand hat das beauftragt. Es entstand spontan”, sagte Josh Kale, Moderator des Bankless-Krypto-Podcasts, auf X.
Kale erwähnte zudem, dass der geschürfte Vermögenswert wahrscheinlich ein GPU-freundlicher Token war — nicht Bitcoin, weil für Bitcoin-Mining spezielle ASIC-Hardware benötigt wird. Dieser Vorfall geschieht zu einem Zeitpunkt, an dem die Krypto-Branche zunehmend in Richtung „Agentenökonomie” geht.
Dieser neue Bereich beschreibt eine Welt, in der Software nicht nur Texte produziert. In solch einer Umgebung können Agenten auch eigenständig komplexe Finanzaufgaben ausführen.
Daher investieren verschiedene Unternehmen und Blockchains wie Ethereum, Paradigm und Circle in Werkzeuge, die diese Infrastruktur unterstützen sollen.
Ein Beispiel ist der von Coinbase unterstützte x402-Standard, durch den Software-Agenten Zahlungen für Onlinedienste ausführen können. Bislang ist die Verbreitung jedoch noch sehr gering.
Daten von x402 zeigen: Das Tool verarbeitete über 75 Millionen Transaktionen. Das entspricht 24 Millionen USD Umsatz mit 94.000 Käufern und 22.000 Verkäufern in den letzten 30 Tagen.
Fachleute der Branche meinen dennoch, dass diese Aktivitäten rasch zunehmen könnten, falls autonome Agenten häufiger eingesetzt werden.
„KI und Krypto sind keine Konkurrenten — sie wachsen zusammen. KI braucht Identität, Zahlungen und Herkunftsnachweise. Krypto bietet alle drei Möglichkeiten”, erklärte die Venture-Capital-Firma a16z auf X.
