OpenAI Menambahkan ChatGPT Kustom ke Platform Pentagon sebagai Ahli Memperingatkan Risiko
Singkatnya
- OpenAI mengatakan akan mengimplementasikan versi kustom dari ChatGPT di GenAI.mil milik Pentagon.
- Sistem ini disetujui untuk pekerjaan Departemen Pertahanan yang tidak bersifat rahasia dengan data yang dipisahkan dari model publik OpenAI.
- Kritikus memperingatkan bahwa kesalahan manusia dan kepercayaan berlebihan terhadap sistem AI tetap menjadi risiko.
OpenAI mengatakan pada hari Senin bahwa mereka sedang mengimplementasikan versi kustom dari ChatGPT di GenAI.mil, platform AI yang dikembangkan oleh Departemen Pertahanan AS. Langkah ini memperluas akses militer terhadap model AI generatif yang kuat, meskipun para kritikus memperingatkan bahwa kesalahan pengguna tetap menjadi risiko keamanan utama. ChatGPT bergabung dengan daftar model AI yang semakin bertambah yang tersedia untuk militer AS, termasuk Gemini dan Grok dari Google, serta sistem AI yang dikembangkan oleh xAI, yang bulan ini diakuisisi oleh SpaceX.
“Kami percaya bahwa orang yang bertanggung jawab untuk membela negara harus memiliki akses ke alat terbaik yang tersedia, dan penting bagi AS dan negara demokratis lainnya untuk memahami bagaimana, dengan perlindungan yang tepat, AI dapat membantu melindungi orang, menghalau lawan, dan mencegah konflik di masa depan,” kata OpenAI dalam sebuah pernyataan. OpenAI mengatakan versi ChatGPT di GenAI.mil disetujui untuk digunakan Departemen Pertahanan yang tidak bersifat rahasia dan akan berjalan di infrastruktur cloud pemerintah yang diotorisasi. Menurut OpenAI, sistem ini dilengkapi dengan perlindungan yang dirancang untuk melindungi data sensitif. Namun, J.B. Branch, Pendukung Akuntabilitas Big Tech di Public Citizen, memperingatkan bahwa ketergantungan berlebihan pengguna terhadap AI dapat melemahkan perlindungan tersebut.
“Penelitian menunjukkan bahwa ketika orang menggunakan model bahasa besar ini, mereka cenderung memberi manfaat keraguan,” kata Branch kepada Decrypt. “Jadi dalam situasi berdampak tinggi seperti militer, hal ini membuat semakin penting untuk memastikan mereka mendapatkan hal yang benar.” Implementasi ini datang saat Pentagon mempercepat adopsi AI komersial di seluruh jaringan militer dan saat pengembang AI mencari keuntungan. Pada bulan Januari, Menteri Pertahanan Pete Hegseth mengatakan departemen berencana mengimplementasikan model AI terkemuka di seluruh jaringan militer yang bersifat rahasia maupun tidak rahasia. Meskipun OpenAI mengatakan versi kustom ChatGPT ini hanya untuk data yang tidak bersifat rahasia, Branch memperingatkan bahwa memasukkan informasi sensitif ke dalam sistem AI meninggalkan data tersebut rentan terhadap lawan, dan menambahkan bahwa pengguna sering salah mengira alat tersebut sebagai tempat penyimpanan yang aman. “Informasi rahasia seharusnya hanya dilihat oleh orang tertentu saja,” katanya. “Jadi bahkan jika Anda memiliki sistem yang hanya diizinkan di dalam militer, itu tidak mengubah fakta bahwa data rahasia hanya dimaksudkan untuk sekelompok orang terbatas.” OpenAI tidak segera menanggapi permintaan komentar dari Decrypt.