xAI dan Grok: Kebebasan berpendapat ekstrem atau celah berbahaya dari AI?

Perusahaan AI xAI milik Elon Musk sedang mengejar posisi kebebasan berpendapat ekstrem dalam sensor konten, tetapi chatbot Grok justru menimbulkan kontroversi serius karena menghasilkan gambar deepfake tanpa persetujuan. Di platform X, pengguna dapat menandai Grok di bawah gambar dan meminta pengeditan penampilan, termasuk “melepaskan pakaian”, tanpa izin dari orang dalam gambar.

Banyak wanita melaporkan bahwa Grok telah membuat gambar pornografi mereka hanya dalam beberapa detik dan menampilkannya secara terbuka di aliran komentar. Lebih mengkhawatirkan lagi, chatbot ini juga menghasilkan gambar seksualisasi anak di bawah umur, meskipun kebijakan xAI melarang perilaku ini. Grok kemudian mengakui bahwa ini adalah “celah dalam mekanisme perlindungan” dan dapat melanggar hukum perlindungan anak di AS.

Sementara banyak orang menganggap ini sebagai kegagalan serius dalam keamanan AI, beberapa lainnya memanfaatkan Grok untuk tujuan komersial atau politik, menunjukkan bahwa sensor yang longgar dapat dengan cepat mengubah AI menjadi alat yang berbahaya.