O Organismo de Supervisão de Dados da Irlanda junta-se a reguladores globais na investigação do X por riscos relacionados com imagens de IA

Resumo

• A DPC da Irlanda abriu uma investigação em larga escala ao abrigo do GDPR contra o X devido à geração de imagens sexualizadas não consensuais, incluindo de crianças, pelo Grok.
• A investigação analisa se o X cumpriu as obrigações centrais do GDPR na forma como utilizou as funcionalidades de imagem do Grok para utilizadores da UE.
• A investigação é a mais recente de uma vaga regulatória global que visa o Grok, com ações formais já abertas na Europa, Reino Unido, Austrália e EUA.

O regulador de privacidade da Irlanda abriu uma investigação formal ao X sobre se o chatbot Grok, de Elon Musk, ajudou a gerar e disseminar imagens sexualizadas não consensuais, incluindo de crianças, aumentando a pressão numa repressão global crescente às ferramentas de “nudificação” de IA.
A Comissão de Proteção de Dados (DPC) lançou a investigação contra a X Internet Unlimited Company (XIUC), a entidade legal registada na UE através da qual a plataforma de redes sociais de Elon Musk opera na Europa, ao abrigo da Lei de Proteção de Dados da Irlanda de 2018, focando na “criação aparente e publicação na plataforma X de imagens potencialmente prejudiciais, não consensuais, íntimas e/ou sexualizadas… incluindo crianças” usando as ferramentas de IA generativa do Grok.
O regulador afirmou que notificou a XIUC da decisão de iniciar a investigação e irá avaliar o cumprimento dos requisitos centrais do GDPR, incluindo princípios de processamento, base legal, privacidade por design e se foi necessário realizar uma avaliação de impacto de proteção de dados.


“Como Autoridade Supervisora principal da XIUC na UE/EEE, a DPC iniciou uma investigação de grande escala que irá examinar o cumprimento da XIUC de algumas das suas obrigações fundamentais ao abrigo do GDPR relativamente às questões em causa,” afirmou o Vice-Comissário Graham Doyle na declaração.
A investigação surge numa altura em que a Irlanda, que serve como principal autoridade supervisora da UE para a maioria das grandes plataformas tecnológicas americanas, conferindo às suas decisões peso vinculativo em toda a União, junta-se a uma resposta internacional crescente ao papel do Grok na geração de deepfakes não consensuais em grande escala.
O Centro para Combater o Ódio Digital (CCDH) relatou no mês passado que o Grok gerou cerca de 23.338 imagens sexualizadas de crianças, ao longo de um período de 11 dias, de 29 de dezembro a 9 de janeiro, e investigadores descobriram que cerca de um terço dessas imagens permaneciam acessíveis na plataforma X, apesar das políticas de tolerância zero da plataforma.
Após a reação negativa, o X restringiu a geração e edição de imagens do Grok a assinantes pagos, adicionou barreiras técnicas para impedir que os utilizadores manipulassem digitalmente pessoas para revelar roupas, e bloqueou a funcionalidade em jurisdições onde tal conteúdo é ilegal.

Decrypt contactou a xAI para comentários.
Repressão regulatória global
Em janeiro, a Comissão Europeia abriu uma investigação formal ao abrigo do Digital Services Act ao X, devido ao alegado papel do Grok na geração e disseminação de conteúdo sexualizado ilegal. Dias depois, as autoridades francesas realizaram uma busca nos escritórios do X em Paris, em coordenação com a Europol, convocando Musk e vários executivos para interrogatório.
No Reino Unido, tanto a Ofcom quanto o Office of the Information Commissioner abriram investigações separadas, com a Ofcom a alertar que poderia procurar medidas apoiadas pelo tribunal para bloquear efetivamente o serviço do X, caso seja considerado não conforme, enquanto o Primeiro-Ministro Keir Starmer afirmou que procuraria novos poderes parlamentares para regular os fornecedores de chatbots de IA sob a lei de segurança online.
A Comissária de Segurança Digital da Austrália, Julie Inman Grant, afirmou que as queixas envolvendo o Grok e imagens sexuais geradas por IA sem consentimento duplicaram nos últimos meses, e que o seu escritório usaria os seus poderes de fiscalização quando necessário.
O Procurador-Geral da Califórnia, Rob Bonta, anunciou uma investigação formal ao xAI e ao Grok sobre a criação e disseminação de imagens explícitas de IA, não consensuais, de mulheres e crianças.
No início deste mês, a UNICEF classificou os deepfakes sexuais de IA como “uma escalada profunda dos riscos que as crianças enfrentam no ambiente digital,” afirmando que pelo menos 1,2 milhões de crianças foram alvo no ano passado, e pediu aos governos que criminalizem materiais de abuso gerados por IA e que implementem salvaguardas de segurança por design.