Ein viraler Prompt fordert ChatGPT auf, einen leeren Raum mit allem zu füllen, was der Chatbot über einen Nutzer weiß. Das Ergebnis zeigt, wie viele Informationen ChatGPT in seinem Gedächtnis gesammelt hat. Viele Nutzer wussten, dass der Chatbot Daten speichert, aber so viele Fakten auf einem Bild zu sehen, hat einige von ihnen verunsichert.
Dieser Trend wirkt wie ein harmloser Spaß, zugleich ist er aber auch ein Sicherheitstest. Denn jedes Objekt im Raum steht für Daten, die Nutzer zu einem früheren Zeitpunkt in den Chat geschrieben haben. Wenn diese Bilder öffentlich auf X gepostet werden, können auch Fremde dieses Nutzerprofil sehen.
Was speichert das ChatGPT-Gedächtnis wirklich?
Der Prompt kombiniert ein einfaches Bild eines leeren grauen Raums mit nur einer Anweisung. Der Chatbot richtet die Szene daraufhin basierend auf früheren Gesprächen ein. Ein bekannter Krypto-Account auf X hat seine Follower dazu aufgerufen, diesen Prompt auszuprobieren und die Ergebnisse zu posten.
Laut OpenAI funktioniert das ChatGPT-Gedächtnis auf zwei Arten.
- Gespeicherte Erinnerungen beinhalten Details wie den Namen, die Vorlieben und die Ziele eines Nutzers.
- Plus- und Pro-Abonnenten bekommen außerdem Zugriff auf die Chat-Historie. Dies erlaubt dem Modell, auf ältere Gespräche zurückzugreifen, auch wenn eigentlich nichts gespeichert wurde.
Dieses wachsende Gedächtnis erschwert auch den Wechsel, wie die Diskussion zum Wechsel von AI-Gedächtnissen gezeigt hat.
Warum Krypto-Halter mehr zu verlieren haben
Für Krypto-Halter geht das Risiko über peinliche Details hinaus. Anfang dieses Jahres haben Entwickler Daten von Krypto-Wallets in Claude-Chats gefunden, die Google über geteilte Links indizieren konnte.
Ein gespeichertes Profil, das zum Beispiel Bestände, genutzte Börsen oder Reisepläne erwähnt, könnte Betrügern helfen, überzeugendere Phishing-Nachrichten zu verfassen.
Binance-Gründer Changpeng Zhao hat bereits betont, dass die eigentliche Gefahr von AI bei Phishing und durchgesickerten Daten liegt, nicht beim Knacken der Bitcoin-Verschlüsselung. In diesem Sinne zeigt der leere Raum, was ein Angreifer womöglich erfahren könnte.
OpenAI ermöglicht es, das ChatGPT-Gedächtnis in den Personalisierungseinstellungen einzusehen, zu löschen oder zu deaktivieren. Ein temporärer Chat liest das Gedächtnis nicht aus und aktualisiert es auch nicht.
Manche in der Krypto-Community gehen noch weiter. Ethereum-Mitgründer Vitalik Buterin hat einen Paranoia-Modus für KI entwickelt, der Prompts maskiert, bevor sie an ein Modell weitergeleitet werden.
Zugleich erhöhen die Behörden die Kosten für unsachgemäße Datenverarbeitung. Ein Richter in New Mexico hat Meta zu einer Strafe von 25 Milliarden USD für den Umgang mit Nutzerdaten bei Facebook verurteilt.
Da das Gedächtnis von ChatGPT immer größer wird, könnte der leere Raum zu einer Routineprüfung werden, um zu sehen, welche Informationen Künstliche-Intelligenz-Unternehmen speichern.
