Irland eröffnet Untersuchung gegen X wegen angeblicher Rolle von Grok bei KI-generierten sexualisierten Bildern

Irlands Datenschutzbehörde hat eine formelle Untersuchung gegen X eingeleitet, da Bedenken bestehen, dass Elon Musks KI-Chatbot Grok bei der Erstellung und Verbreitung nicht-einvernehmlicher sexualisierter Bilder, einschließlich Bilder von Kindern, geholfen haben könnte. Die Untersuchung stellt eine bedeutende Eskalation im internationalen Kampf gegen KI-gestützte „Nudification“-Tools und Deepfake-Inhalte dar.

Die Untersuchung wurde von Irlands Datenschutzkommission (DPC) gegen X Internet Unlimited Company (XIUC) eingeleitet, die rechtliche Einheit, unter der die Plattform in Europa betrieben wird. Das Verfahren fällt unter das irische Datenschutzgesetz 2018 und wird prüfen, ob Groks generative KI-Tools an der Erstellung und Veröffentlichung potenziell schädlicher intimer Bilder ohne Zustimmung beteiligt waren.

Als die leitende Aufsichtsbehörde für X in der Europäischen Union und dem Europäischen Wirtschaftsraum wird die DPC die Einhaltung der wichtigsten Bestimmungen der Datenschutz-Grundverordnung (DSGVO) bewerten. Dazu gehört die Prüfung, ob das Unternehmen die Prinzipien der rechtmäßigen Verarbeitung, Datenschutz durch Design und eine Datenschutz-Folgenabschätzung vor der Einführung solcher KI-Fähigkeiten eingehalten hat.

Das Center for Countering Digital Hate (CCDH) berichtete, dass Grok innerhalb eines Zeitraums von 11 Tagen zwischen Ende Dezember und Anfang Januar mehr als 23.000 sexualisierte Bilder von Kindern generierte. Forscher stellten fest, dass etwa ein Drittel der Stichprobenbilder trotz der von X erklärten Null-Toleranz-Politik weiterhin auf der Plattform zugänglich waren. Nach öffentlichem Gegenwind beschränkte X die Bildgenerierungsfunktion von Grok auf zahlende Abonnenten, führte technische Schutzmaßnahmen ein, um Manipulationen an der Kleidung von Personen in Bildern zu verhindern, und blockierte das Tool in Jurisdiktionen, in denen solche Inhalte illegal sind.

Globale Regulierungsdruck nimmt zu

Irlands Maßnahmen fügen sich in die zunehmende weltweite Überwachung ein. Im Januar eröffnete die Europäische Kommission im Rahmen des Digital Services Act eine formelle Untersuchung zu Xs angeblicher Rolle bei der Erstellung und Verbreitung illegaler Inhalte im Zusammenhang mit Grok. Kurz darauf durchsuchten französische Behörden in Zusammenarbeit mit Europol die Pariser Büros von X im Rahmen einer strafrechtlichen Untersuchung.

Im Vereinigten Königreich starteten sowohl Ofcom als auch das Office of the Information Commissioner separate Untersuchungen gegen die Plattform. Premierminister Keir Starmer deutete an, dass neue parlamentarische Befugnisse angestrebt werden könnten, um KI-Chatbot-Anbieter direkter in die Online-Sicherheitsgesetze einzubinden. Regulierungsbehörden warnten, dass Nichtbefolgung gerichtliche Maßnahmen nach sich ziehen könnte, einschließlich möglicher Dienstbeschränkungen.

In Australien meldete der eSafety Commissioner einen deutlichen Anstieg der Beschwerden über nicht-einvernehmliche, KI-generierte sexuelle Bilder im Zusammenhang mit Grok. Gleichzeitig kündigte Generalstaatsanwalt Rob Bonta eine formelle Untersuchung gegen xAI und seinen Chatbot wegen der Erstellung und Verbreitung expliziter KI-generierter Bilder von Frauen und Kindern an.

Auch internationale Organisationen schlagen Alarm. UNICEF bezeichnete KI-basierte sexuelle Deepfakes kürzlich als eine „tiefgreifende Eskalation“ der Risiken für Kinder in digitalen Umgebungen und schätzte, dass im letzten Jahr mindestens 1,2 Millionen Kinder betroffen waren. Die Organisation forderte die Regierungen auf, KI-generierte Missbrauchsmaterialien zu kriminalisieren und Sicherheitsmaßnahmen durch Design in generativen KI-Systemen vorzuschreiben.

Mit sich ausweitenden Untersuchungen in mehreren Jurisdiktionen unterstreicht der Fall X und Grok einen breiteren regulatorischen Wandel. Regierungen bewegen sich zunehmend von reaktiver Durchsetzung hin zu proaktivem Monitoring generativer KI-Systeme, insbesondere wenn der Schutz von Kindern und Datenschutzrechte auf dem Spiel stehen.