Irlandia Membuka Penyidikan Terhadap X atas Dugaan Peran Grok dalam Gambar Seksual yang Dihasilkan AI
Regulator privasi Irlandia telah memulai penyelidikan resmi terhadap X karena kekhawatiran bahwa chatbot AI Elon Musk, Grok, mungkin telah membantu menghasilkan dan menyebarkan gambar seksual non-konsensual, termasuk gambar yang melibatkan anak-anak. Penyelidikan ini menandai peningkatan signifikan dalam penindakan internasional yang semakin keras terhadap alat “nudifikasi” berbasis AI dan konten deepfake.
Penyelidikan ini dimulai oleh Komisi Perlindungan Data Irlandia (DPC) terhadap X Internet Unlimited Company (XIUC), entitas hukum yang terdaftar di UE tempat platform ini beroperasi di Eropa. Penyidikan ini dilakukan berdasarkan Undang-Undang Perlindungan Data Irlandia 2018 dan akan memeriksa apakah alat AI generatif Grok terlibat dalam pembuatan dan publikasi gambar intim yang berpotensi berbahaya tanpa izin.
Sebagai otoritas pengawas utama untuk X di seluruh Uni Eropa dan Wilayah Ekonomi Eropa, DPC akan menilai kepatuhan terhadap ketentuan utama Regulasi Perlindungan Data Umum (GDPR). Ini termasuk memeriksa apakah perusahaan mematuhi prinsip pemrosesan yang sah, standar privasi-by-design, dan apakah penilaian dampak perlindungan data seharusnya dilakukan sebelum menerapkan kemampuan AI tersebut.
Center for Countering Digital Hate (CCDH) melaporkan bahwa Grok menghasilkan lebih dari 23.000 gambar seksual yang menggambarkan anak-anak selama periode 11 hari antara akhir Desember dan awal Januari. Para peneliti menemukan bahwa sekitar sepertiga dari gambar yang diambil sampel tetap dapat diakses di platform meskipun X menyatakan kebijakan nol toleransi terhadap konten tersebut. Setelah mendapat kecaman publik, X membatasi fitur pembuatan gambar Grok hanya untuk pelanggan berbayar, memperkenalkan perlindungan teknis untuk mencegah manipulasi pakaian dalam gambar, dan memblokir alat tersebut di yurisdiksi di mana konten semacam itu ilegal.
Tekanan Regulasi Global Meningkat
Tindakan Irlandia menambah tekanan dari pengawasan global yang semakin meningkat. Pada Januari, Komisi Eropa membuka penyelidikan resmi di bawah Digital Services Act terhadap dugaan peran X dalam pembuatan dan penyebaran konten ilegal yang terkait dengan Grok. Tak lama kemudian, otoritas Prancis menggerebek kantor X di Paris bekerja sama dengan Europol sebagai bagian dari penyelidikan kriminal.
Di Inggris, baik Ofcom maupun Office of the Information Commissioner meluncurkan penyelidikan terpisah terhadap platform tersebut. Perdana Menteri Keir Starmer menyiratkan bahwa kekuasaan parlemen baru dapat diajukan untuk membawa penyedia chatbot AI lebih langsung di bawah undang-undang keselamatan daring. Regulator memperingatkan bahwa ketidakpatuhan dapat berujung pada langkah hukum, termasuk kemungkinan pembatasan layanan.
Di Australia, Komisaris eSafety melaporkan peningkatan tajam dalam keluhan terkait gambar seksual yang dihasilkan AI tanpa izin yang terkait dengan Grok. Sementara itu, Jaksa Agung California Rob Bonta mengumumkan penyelidikan resmi terhadap xAI dan chatbot-nya terkait pembuatan dan penyebaran gambar eksplisit yang dihasilkan AI yang melibatkan wanita dan anak-anak.
Organisasi internasional juga mengangkat kekhawatiran. UNICEF baru-baru ini menggambarkan deepfake seksual berbasis AI sebagai “eskalasi mendalam” dari risiko yang dihadapi anak-anak di lingkungan digital, dengan perkiraan bahwa setidaknya 1,2 juta anak menjadi target tahun lalu. Badan ini menyerukan agar pemerintah mengkriminalisasi materi pelecehan yang dihasilkan AI dan mewajibkan perlindungan keselamatan-by-design dalam sistem AI generatif.
Seiring penyelidikan yang meluas ke berbagai yurisdiksi, kasus terhadap X dan Grok menegaskan pergeseran regulasi yang lebih luas. Pemerintah semakin beralih dari penegakan hukum yang reaktif menuju pengawasan proaktif terhadap sistem AI generatif, terutama di mana perlindungan anak dan hak privasi menjadi perhatian utama.