Tiga remaja menggugat xAI di Amerika Serikat, menuduh Grok menghasilkan gambar eksploitasi seksual anak

Berita Gate, 18 Maret, tiga remaja perempuan mengajukan gugatan di pengadilan federal California terhadap perusahaan kecerdasan buatan xAI yang dimiliki Elon Musk, menuduh chatbot mereka, Grok, tanpa izin menghasilkan gambar eksploitasi seksual anak yang melibatkan mereka. Gugatan meminta kompensasi dalam jumlah yang tidak ditentukan dan mengajukan perintah larangan segera untuk menghentikan Grok dari menghasilkan konten serupa. Ketiga penggugat memilih untuk tetap anonim, di mana dua di antaranya masih di bawah umur. Dalam dokumen pengadilan disebutkan bahwa pengguna terkait memanipulasi foto penggugat menggunakan fitur pengolahan gambar Grok, mengubahnya menjadi gambar yang menunjukkan ketelanjangan atau kekerasan seksual, dan menyebarkannya di server Discord pribadi. Korban setidaknya melibatkan 18 anak di bawah umur. Salah satu penggugat menemukan bahwa foto kelulusan SMA-nya telah diubah menjadi gambar dengan sugesti seksual setelah menerima pesan pribadi anonim di Instagram. Pengacara penggugat menyatakan bahwa xAI mengetahui bahwa fitur “Grok Imagine” (termasuk opsi “melepas pakaian”) dapat menghasilkan konten seperti itu, namun tetap memilih untuk mempublikasikannya, dengan tujuan mendorong pertumbuhan pengguna Grok dan platform sosial X. Menurut laporan dari “Pusat Melawan Kebencian Digital,” dalam dua minggu setelah peluncuran fitur tersebut, telah dihasilkan lebih dari 20.000 gambar seksual yang melibatkan anak di bawah umur.