Französische Behörden durchsuchen Büros von X, während die Grok AI‑Untersuchung sich verschärft
Paris, Frankreich — In einer bedeutenden Eskalation der europäischen Aufsichtsmaßnahmen durchsuchten französische Staatsanwälte am Dienstag die Pariser Büros von X (ehemals Twitter). Die Aktion, geleitet von der Cybercrime‑Abteilung der Pariser Staatsanwaltschaft, markiert einen Wendepunkt in der andauernden Prüfung der Einhaltung lokaler Gesetze und der Standards der Europäischen Union durch die Plattform. Die Behörden haben zugleich Vorladungen für Eigentümer Elon Musk und die ehemalige CEO Linda Yaccarino zur Vernehmung ausgestellt, wobei sich die Untersuchung auf schwerwiegende Bedenken bezüglich Grok AI und seiner angeblichen Rolle bei der Erzeugung illegaler Inhalte konzentriert.
Diese Durchsuchung unterstreicht die zunehmende Verschärfung der Regulierung sozialer Medien (social media regulation) auf dem Kontinent und signalisiert, dass das Zeitalter einer nachsichtigen Aufsicht über generative Technologien im Grunde vorbei ist. Für die KI‑Branche ist dieses Ereignis eine deutliche Warnung bezüglich der Haftung, der Plattformen ausgesetzt sind, wenn sie leistungsstarke Bildgenerierung (image generation)‑Werkzeuge ohne angemessene Schutzmaßnahmen einsetzen.
Grok AI im Zentrum der Deepfake‑Untersuchung
Kernpunkt der Untersuchung sind die Fähigkeiten und Schutzmechanismen — oder deren Fehlen — des proprietären KI‑Modells von X, Grok AI. Staatsanwälte untersuchen Vorwürfe der "Komplizenschaft" bei Besitz und Verbreitung von Material sexuellen Missbrauchs von Kindern (CSAM) und nicht einvernehmlichen sexuell expliziten Deepfakes (deepfakes).
Laut der Pariser Staatsanwaltschaft begann die Untersuchung, die ursprünglich im Januar 2025 als Prüfung algorithmischer Verzerrungen eröffnet wurde, sich deutlich auszuweiten, nachdem Berichte auftauchten, dass Grok zur "Massenproduktion" entkleideter Bilder von Frauen und Minderjährigen eingesetzt wurde. Im Gegensatz zu anderen Generative KI (Generative AI)‑Modellen, die strikte Schutzvorkehrungen gegen die Erzeugung von Abbildern realer Personen oder expliziten Inhalten implementiert haben, behaupten Ermittler, dass Groks "unshackled"‑Modus es Nutzern relativ leicht erlaubte, Sicherheitsfilter zu umgehen.
Die rechtliche Anklage: Komplizenschaft und Fahrlässigkeit
Die konkret untersuchten Vorwürfe sind schwerwiegend. Das französische Recht macht Plattformen verantwortlich, wenn ihnen vorgeworfen wird, "vorsätzlich blind" gegenüber den illegalen Aktivitäten zu sein, die durch ihre Werkzeuge erleichtert werden. Die Untersuchung prüft, ob die Führung von X wissentlich zugelassen hat, dass Grok AI ohne die notwendigen Inhaltsmoderations‑Schichten funktioniert, die nach dem französischen Strafgesetzbuch und dem Digital Services Act (DSA) der EU erforderlich sind.
Die Aufnahme der "Leugnung von Verbrechen gegen die Menschlichkeit" in die Akte deutet darauf hin, dass die Untersuchung auch die Textgenerierungen der KI abdeckt, insbesondere Fälle, in denen das Modell möglicherweise Holocaust‑Leugnung generiert hat. Dieser vielschichtige rechtliche Angriff hebt die umfassende Natur der Haftung hervor, der sich X nun gegenübersieht.
Vorladungen der Führung: Musk und Yaccarino
In einem seltenen Schritt für ein Vorverfahren haben Staatsanwälte Elon Musk und die ehemalige CEO Linda Yaccarino zu "freiwilligen Vernehmungen" vorgeladen. Die Anhörungen sind für den 20. April 2026 angesetzt. Yaccarino, die von Mai 2023 bis Juli 2025 als CEO tätig war, soll zu den betrieblichen Entscheidungen im Zusammenhang mit der Einführung von Bildgenerierungsfunktionen (Bildgenerierungsfunktionen) von Grok aussagen.
Während die Vorladungen derzeit auf freiwillige Vernehmungen beschränkt sind, könnte eine Weigerung zur Kooperation zu bindenden gerichtlichen Anordnungen führen. Diese Entwicklung bringt die Führungsebene von X direkt ins Kreuzfeuer der strafrechtlichen Haftung und geht über Unternehmensstrafen hinaus bis hin zur möglichen persönlichen Verantwortlichkeit. Die Pariser Staatsanwaltschaft erklärte, das Ziel sei sicherzustellen, dass die Plattform "mit dem französischen Recht konform ist, solange sie auf nationalem Hoheitsgebiet tätig ist" und wies Behauptungen von X‑Unterstützern zurück, die Untersuchung sei politisch motiviert.
Regulatorischer Kontext: Der DSA und darüber hinaus
Diese Durchsuchung erfolgt nicht im luftleeren Raum. Sie ist der Höhepunkt monatelanger Spannungen zwischen X und den europäischen Regulierungsbehörden. Im Dezember 2025 verhängte die Europäische Kommission eine Geldstrafe von 120 Mio. € gegen X wegen irreführender Designpraktiken und Transparenzmängeln. Die derzeitige strafrechtliche Untersuchung in Frankreich läuft parallel zu diesen Verwaltungsverfahren auf EU‑Ebene, birgt jedoch die Gefahr von Haftstrafen und erheblich größerem reputationsrechtlichen Schaden.
Die Haltung der Europäischen Union zur Regulierung sozialer Medien (social media regulation) ist härter geworden, wobei das Narrativ vom "digitalen Wilden Westen", das von Staats- und Regierungschefs wie dem spanischen Ministerpräsidenten Pedro Sánchez zitiert wird, einen Konsens für strikte Durchsetzung vorantreibt. Die Beteiligung von Europol an der Durchsuchung am Dienstag deutet darauf hin, dass es sich um eine koordinierte Anstrengung handelt, einen Präzedenzfall dafür zu schaffen, wie der Digital Services Act und nationale Strafgesetze auf KI‑generierte Inhalte Anwendung finden.
Zeitstrahl der regulatorischen Eskalation
Die Beziehung zwischen X und den europäischen Behörden hat sich im letzten Jahr rapide verschlechtert. Die folgende Tabelle skizziert die Schlüsselergebnisse, die zur aktuellen Krise geführt haben.
| Datum | Regulatorische Maßnahme | Auswirkung und Reaktion |
|---|---|---|
| Jan 2025 | Eröffnung der ersten Untersuchung | Französische Behörden prüfen algorithmische Verzerrungen und Datenverarbeitungsmethoden von X. |
| Dez 2025 | EU‑Kommission: Geldstrafe 120 Mio. € | X wurde wegen DSA‑Verstößen in Bezug auf Werbetransparenz und Forscherzugang bestraft. |
| Jan 2026 | Untersuchung auf Grok AI ausgeweitet | Die Untersuchung wurde erweitert und umfasst nun Vorwürfe zur Erzeugung von CSAM und Deepfakes. |
- Feb. 2026|Durchsuchung der Pariser Büros|Die Cybercrime‑Einheit sichert Daten; X bezeichnet den Schritt als "politisch motiviert".
- Apr. 2026|Anberaumte Vorladungen der Führung|Musk und Yaccarino werden zu Fragen zu den Sicherungsmaßnahmen von Grok AI vorgeladen.
Auswirkungen auf die Entwicklung von Generative KI
Die Durchsuchung der Büros von X ist ein Wendepunkt für den Sektor der Generative KI. Sie stellt die Philosophie des "Open Model" in Frage, die rohe Modellfähigkeit über Sicherheitsbeschränkungen stellt. Sollten französische Staatsanwälte erfolgreich darlegen, dass die Veröffentlichung eines KI‑Werkzeugs mit leicht umgehbaren Schutzmechanismen als Komplizenschaft bei den mit diesem Werkzeug begangenen Straftaten gilt, würde dies eine grundlegende Neugestaltung der Art und Weise erzwingen, wie KI‑Produkte weltweit veröffentlicht werden.
Für Entwickler und Plattformen ist die Botschaft klar: Bildgenerierung und Textsynthese‑Werkzeuge werden nicht länger nur als Software betrachtet, sondern als potenzielle Waffen in den Händen von Kriminellen. Die Haftung für Missbrauch verschiebt sich zunehmend vom Nutzer auf den Anbieter. Während X sich durch dieses juristische Minenfeld navigiert, wird das Ergebnis dieser Untersuchung voraussichtlich das Compliance‑Handbuch für KI‑Unternehmen, die in Europa tätig sind, für das nächste Jahrzehnt prägen.
Creati.ai wird diese sich entwickelnde Geschichte und ihre tiefgreifenden Auswirkungen auf die Zukunft der künstlichen Intelligenz weiterhin beobachten.
