Irlands Datenschutzbehörde schließt sich globalen Regulierungsbehörden an, die X wegen Risiken im Zusammenhang mit KI-Bildern untersuchen

Kurzfassung

• Irlands Datenschutzbehörde hat eine groß angelegte GDPR-Untersuchung gegen X eingeleitet, wegen Groks Generierung nicht einvernehmlicher sexualisierter Bilder, einschließlich solcher von Kindern.
• Die Untersuchung prüft, ob X die zentralen GDPR-Pflichten erfüllt hat, insbesondere bei der Nutzung von Groks Bildgenerierungsfunktionen für EU-Nutzer.
• Die Untersuchung ist die neueste in einer globalen regulatorischen Welle gegen Grok, mit formellen Maßnahmen in Europa, Großbritannien, Australien und den USA.

Irlands Datenschutzbehörde hat eine formelle Untersuchung gegen X eingeleitet, um zu klären, ob Elon Musks Grok-Chatbot bei der Erzeugung und Verbreitung nicht einvernehmlicher sexualisierter Bilder, einschließlich von Kindern, geholfen hat, was die zunehmende globale Kontrolle über KI-Tools zur „Nudifizierung“ verschärft.
Die Datenschutzkommission (DPC) startete die Untersuchung gegen X Internet Unlimited Company (XIUC), die rechtliche EU-Entität, über die Elon Musks Social-Media-Plattform in Europa betrieben wird, gemäß dem irischen Datenschutzgesetz 2018. Dabei soll geprüft werden, ob Groks generative KI-Tools potenziell schädliche, nicht einvernehmliche intime und/oder sexualisierte Bilder erstellt und auf der X-Plattform veröffentlicht hat, einschließlich solcher von Kindern.
Die Aufsichtsbehörde teilte mit, dass sie XIUC über die Entscheidung zur Einleitung der Untersuchung informiert hat und die Einhaltung der Kernanforderungen der DSGVO, einschließlich Verarbeitung, rechtmäßige Grundlage, Privacy-by-Design und die Notwendigkeit einer Datenschutz-Folgenabschätzung, prüfen wird.


„Als leitende Aufsichtsbehörde für XIUC in der EU/EEA hat die DPC eine groß angelegte Untersuchung eingeleitet, die die Einhaltung einiger grundlegender Verpflichtungen von XIUC im Rahmen der DSGVO im Zusammenhang mit den vorliegenden Angelegenheiten prüfen wird“, sagte Deputy Commissioner Graham Doyle in der Erklärung.
Die Untersuchung erfolgt, während Irland, das als führende Aufsichtsbehörde der EU für die meisten großen amerikanischen Tech-Plattformen fungiert und deren Entscheidungen bindend sind, auf eine wachsende internationale Reaktion auf Groks Rolle bei der groß angelegten Erzeugung nicht einvernehmlicher Deepfakes reagiert.
Das Center for Countering Digital Hate (CCDH) berichtete letzten Monat, dass Grok schätzungsweise 23.338 sexualisierte Bilder von Kindern innerhalb von 11 Tagen vom 29. Dezember bis zum 9. Januar generiert hat, wobei Forscher etwa ein Drittel dieser Stichprobenbilder trotz der Null-Toleranz-Politik der Plattform weiterhin zugänglich auf X fanden.
Nach der Kritik beschränkte X die Bildgenerierung und -bearbeitung durch Grok auf zahlende Abonnenten, fügte technische Barrieren hinzu, um Nutzern die digitale Manipulation von Personen in entblößter Kleidung zu erschweren, und blockierte die Funktion in Jurisdiktionen, in denen solche Inhalte illegal sind.

Decrypt hat sich an xAI gewandt, um eine Stellungnahme zu erhalten.
Globale regulatorische Maßnahmen
Im Januar eröffnete die Europäische Kommission eine formelle Untersuchung im Rahmen des Digital Services Act gegen X wegen des angeblichen Beitrags von Grok zur Erzeugung und Verbreitung illegaler sexualisierter Inhalte. Wenige Tage später durchsuchten französische Behörden die Pariser Büros von X in Zusammenarbeit mit Europol und forderten Musk sowie mehrere Führungskräfte zu Vernehmungen auf.
In Großbritannien eröffneten sowohl Ofcom als auch das Office of the Information Commissioner separate Untersuchungen. Ofcom warnte, dass es rechtliche Maßnahmen ergreifen könnte, um den Dienst von X effektiv zu blockieren, falls dieser nicht konform ist, während Premierminister Keir Starmer ankündigte, neue parlamentarische Befugnisse zu suchen, um KI-Chatbot-Anbieter unter das Online-Sicherheitsgesetz zu stellen.
Australiens eSafety-Kommissarin Julie Inman Grant erklärte, dass Beschwerden im Zusammenhang mit Grok und nicht einvernehmlichen KI-generierten sexualisierten Bildern in den letzten Monaten verdoppelt wurden, und kündigte an, dass ihr Amt bei Bedarf seine Durchsetzungsbefugnisse nutzen werde.
Kaliforniens Generalstaatsanwalt Rob Bonta kündigte eine formelle Untersuchung gegen xAI und Grok wegen der Erstellung und Verbreitung nicht einvernehmlicher, sexuell expliziter KI-Bilder von Frauen und Kindern an.
Anfang dieses Monats bezeichnete UNICEF KI-generierte sexuelle Deepfakes als „eine tiefgreifende Eskalation der Risiken, denen Kinder in der digitalen Umgebung ausgesetzt sind“, wobei mindestens 1,2 Millionen Kinder im letzten Jahr Ziel waren. Es forderte die Regierungen auf, KI-generierte Missbrauchsmaterialien zu kriminalisieren und Sicherheitsmaßnahmen von Anfang an zu implementieren.