Französische Ermittler haben am Dienstag die Zentrale von X in Paris durchsucht. Grund ist eine größere Untersuchung wegen mutmaßlicher Verbreitung von kinderpornografischen Inhalten, KI-generierten Deepfakes und Holocaust-Leugnung auf der Plattform.
Die Durchsuchung, unterstützt von Europol, ist ein wichtiger Schritt im Vorgehen der europäischen Behörden gegen Elon Musks soziales Netzwerk. Die Staatsanwaltschaft hat Musk und die ehemalige Chefin Linda Yaccarino für „freiwillige Gespräche“ am 20. April vorgeladen.
SponsoredUntersuchungsumfang:
Die Cybercrime-Abteilung der Staatsanwaltschaft Paris hat im Januar 2025 eine erste Untersuchung begonnen. Zuerst ging es darum, dass voreingenommene Algorithmen auf X automatische Datenverarbeitung verfälscht haben sollen. Nachdem Musks KI-Chatbot Grok angeblich den Holocaust geleugnet und sexuelle Deepfakes erzeugt hat, wurde die Untersuchung deutlich ausgeweitet.
Zu den Vorwürfen gehören Beihilfe beim Besitz und der Verbreitung von kinderpornografischen Inhalten und sexuellen Deepfakes. Die Ermittler prüfen auch Holocaust-Leugnung, das Leugnen von Verbrechen gegen die Menschlichkeit und Manipulation von automatisierten Datenverarbeitungssystemen durch eine organisierte Gruppe.
Die Staatsanwaltschaft hat die laufende Durchsuchung auf X selbst bekannt gegeben. Kurz danach kündigte sie an, die Plattform zu verlassen, und rief ihre Follower dazu auf, ihr auf anderen sozialen Netzwerken zu folgen.
Grok sorgt für heftige Diskussionen
Grok, der Chatbot von xAI, sorgte im letzten Monat weltweit für Empörung. Sein „spicy mode“ hat auf Anfrage der Nutzer zehntausende nicht-einvernehmliche, sexualisierte Deepfake-Bilder erstellt.
Der Chatbot hat zudem Inhalte zur Holocaust-Leugnung auf Französisch veröffentlicht. Er behauptete zum Beispiel, die Gaskammern von Auschwitz-Birkenau wären zum „Desinfizieren mit Zyklon B gegen Typhus“ genutzt worden – Formulierungen, die seit Langem von Holocaust-Leugnern verwendet werden.
Sponsored SponsoredAuch wenn Grok sich später korrigierte und den Fehler einräumte, war der Schaden bereits entstanden. Malaysia und Indonesien blockierten Grok komplett, Malaysia will zudem rechtlich gegen X und xAI vorgehen.
X schlägt zurück
In einer Stellungnahme auf der eigenen Plattform verurteilte X die Durchsuchung als „einen missbräuchlichen Akt der Staatsgewalt, der politische Ziele erreichen soll, ohne die gerechte und faire Rechtsprechung zu fördern“.
Das Unternehmen wies alle Vorwürfe zurück und bezeichnete das Vorgehen der Franzosen als politisch motivierte Zensur.
Sponsored SponsoredDurov meldet sich zu Wort
Telegram-Gründer Pawel Durow, der selbst ähnliche Vorwürfe in Frankreich nach seiner Festnahme im August 2024 hat, verteidigte X und griff die französischen Behörden an.
„Die französische Polizei durchsucht gerade die X-Zentrale in Paris. Frankreich ist das einzige Land der Welt, das alle sozialen Netzwerke strafrechtlich verfolgt, die den Menschen etwas Freiheit geben (Telegram, X, TikTok …). Lasst euch nicht täuschen: Das ist kein freies Land”, schrieb Durow auf X.
In einem weiteren Kommentar ergänzte er: „Den Schutz von Kindern als Vorwand für Zensur und Massenüberwachung zu nutzen, ist widerlich. Diese Leute schrecken vor nichts zurück.“
Gemischte Reaktionen
Durows Sichtweise löste online Zustimmung, aber auch Kritik aus. Einige Nutzer griffen seine Argumente auf und nannten Frankreichs Umgang einen „Starterpack für digitale Autokratie“. Durows Festnahme wurde als „Vorwarnung“ für kommende Entwicklungen gesehen.
SponsoredAndere forderten mehr Differenzierung. „Plattformen wie Telegram und X sind nicht nur ‚Werkzeuge für Freiheit‘. Sie können auch genutzt werden, um Hass zu verbreiten, Gewalt zu organisieren und Gesellschaften zu destabilisieren“, schrieb ein Nutzer. „Es nur als ‚frei‘ oder ‚nicht frei‘ einzuteilen, ignoriert vieles auf beiden Seiten.“
Regulierungsdruck nimmt zu
Frankreich ist nicht das einzige Land, das Musks Plattformen genauer prüft. Das britische Information Commissioners Office hat eine offizielle Untersuchung eingeleitet, wie X und xAI persönliche Daten bei der Entwicklung von Grok nutzen. Gleichzeitig untersucht Ofcom, die britische Medienaufsicht, das Thema in einer eigenen Untersuchung, die Monate dauern kann.
Auch die Europäische Union hat wegen des Deepfake-Vorfalls eine Untersuchung begonnen und X bereits mit einer Strafe von 120 Mio. EUR für Verstöße gegen digitale Vorschriften, darunter irreführende blaue Häkchen, belegt.
Der rechtliche Druck steigt, während Musk seine Technologiefirmen zusammenführt. SpaceX verkündete am Montag, dass es xAI übernommen hat. Dadurch werden Grok, X und das Satellitenunternehmen Starlink unter einem Dach vereint. Das könnte die staatliche Aufsicht in vielen Ländern erschweren.
