Bos Palantir UK mengatakan terserah militer untuk memutuskan bagaimana penargetan berbasis AI digunakan dalam perang

2 hari lalu

BagikanSimpan

Tambahkan sebagai favorit di Google

Marc Cieslak,koresponden AIdan

Matt Murphy,BBC Verify

Louis Mosley dari Palantir mengatakan bahwa militer bertanggung jawab atas bagaimana sistem AI digunakan

** raksasa teknologi Palantir telah menepis kekhawatiran bahwa penggunaan platform AI miliknya oleh militer dapat menimbulkan risiko yang tak terduga, dalam wawancara eksklusif dengan BBC, dengan menegaskan bahwa cara teknologi itu digunakan adalah tanggung jawab pelanggan militernya.**

Ini terjadi saat para ahli telah menyatakan keprihatinan tentang penggunaan platform pertahanan bertenaga AI Palantir—Maven Smart System—selama masa perang dan laporan penggunaannya dalam serangan AS terhadap Iran.

Para analis telah memperingatkan bahwa penggunaan platform tersebut oleh militer, yang membantu personel merencanakan serangan, memberi sedikit waktu untuk “verifikasi yang bermakna” atas keluarannya dan dapat menyebabkan sasaran yang salah mengenai.

Namun, kepala Palantir untuk Inggris dan Eropa, Louis Mosley, mengatakan kepada BBC dalam wawancara yang luas bahwa sementara platform AI seperti Maven telah menjadi “instrumen” bagi pengelolaan perang Iran oleh AS, tanggung jawab atas bagaimana keluarannya digunakan harus selalu tetap “pada organisasi militer”.

“Selalu ada manusia dalam lingkaran, jadi selalu ada manusia yang membuat keputusan final. Begitulah pengaturannya saat ini.”

Maven Smart System diluncurkan oleh Pentagon pada 2017 dan dirancang untuk mempercepat keputusan penargetan militer dengan menghimpun banyak data, termasuk beragam kecerdasan, citra satelit, dan gambar drone.

Sistem ini menganalisis data tersebut dan kemudian dapat memberikan rekomendasi untuk penargetan. Sistem ini juga dapat menyarankan tingkat kekuatan yang digunakan berdasarkan ketersediaan personel dan perangkat keras militer, seperti pesawat.

Namun, pengawasan terhadap penggunaan alat-alat semacam itu dalam peperangan semakin meningkat. Pada bulan Februari, Pentagon mengumumkan bahwa pihaknya akan menghentikan secara bertahap sistem AI Claude dari Anthropic—yang membantu menggerakkan Maven—setelah perusahaan menolak mengizinkan penggunaan AI-nya dalam senjata otonom dan pengawasan. Palantir mengatakan alternatif dapat menggantikannya.

Sejak perang dengan Iran dimulai pada Februari, AS dilaporkan telah menggunakan Maven untuk merencanakan serangan di seluruh negeri.

Cuplikan demonstrasi dari Palantir’s Maven Smart System

Didorong oleh BBC soal risiko bahwa Maven mungkin menyarankan sasaran yang keliru—yang bisa mencakup warga sipil—Mosley menegaskan bahwa platform itu hanya dimaksudkan untuk menjadi panduan guna mempercepat proses pengambilan keputusan bagi personel militer dan bahwa platform itu tidak boleh dipandang sebagai sistem penargetan otomatis.

“Anda bisa menganggapnya sebagai alat pendukung,” kata Mosley. “Itu memungkinkan mereka untuk mensintesis sejumlah besar informasi yang sebelumnya harus mereka lakukan secara manual satu per satu.”

Namun, saat ditantang BBC mengenai risiko komandan yang bekerja di bawah tekanan waktu memerintahkan perwira mereka agar menganggap keluaran Maven sebagai stempel karet, Mosley menunda pada militer masing-masing.

“Itu benar-benar pertanyaan bagi pelanggan militer kami. Mereka yang memutuskan kerangka kebijakan yang menentukan siapa yang boleh membuat keputusan seperti apa,” katanya. “Itu bukan peran kami.”

Sejak 28 Februari, AS telah melancarkan lebih dari 11.000 serangan terhadap Iran, banyak di antaranya dilaporkan diidentifikasi oleh Maven.

Adm Brad Cooper, kepala militer AS di Timur Tengah, telah memuji sistem AI karena membantu para perwira “menyaring sejumlah besar data dalam hitungan detik, sehingga para pemimpin kami dapat menerobos kebisingan dan membuat keputusan yang lebih cerdas lebih cepat daripada musuh bisa bereaksi”.

Perusahaan AI Anthropic mencari pakar senjata untuk menghentikan pengguna dari ‘penyalahgunaan’

OpenAI mengubah kesepakatan dengan militer AS setelah mendapat reaksi balik

Trump memerintahkan pemerintah untuk menghentikan penggunaan Anthropic dalam pertempuran terkait penggunaan AI

Namun, sebagian orang khawatir keterlibatan AI dalam perencanaan misi menciptakan risiko yang signifikan.

“Prioritas pada kecepatan dan skala serta penggunaan kekuatan kemudian menyisakan sangat sedikit waktu untuk verifikasi sasaran yang bermakna agar memastikan sasaran itu tidak secara tidak sengaja mencakup target warga sipil,” kata Prof Elke Schwarz dari Queen Mary University of London.

“Jika ada risiko membunuh dan Anda ikut serta membelokkan banyak pemikiran kritis Anda kepada perangkat lunak yang akan mengurus hal-hal ini untuk Anda, maka Anda hanya akan menjadi bergantung pada perangkat lunak itu,” tambahnya. “Ini adalah perlombaan menuju dasar.”

Dalam beberapa pekan terakhir, pejabat Pentagon telah menghadapi pertanyaan apakah alat AI seperti Maven digunakan untuk mengidentifikasi sasaran dalam serangan mematikan di sekolah di kota Minab, Iran. Pejabat Iran mengatakan serangan itu menewaskan 168 orang, termasuk sekitar 110 anak-anak, pada hari pertama perang.

Di Kongres, sejumlah petinggi Demokrat telah menyerukan peningkatan pengawasan terhadap platform AI seperti Maven. Rep Sara Jacobs—anggota Komite Angkatan Bersenjata DPR—menyerukan aturan dan regulasi yang ditegakkan dengan jelas mengenai bagaimana dan kapan sistem AI digunakan.

“Alat AI tidak 100% andal — alat-alat itu bisa gagal dengan cara yang halus, namun operator terus terlalu percaya padanya,” katanya kepada NBC News bulan lalu.

“Kami punya tanggung jawab untuk menerapkan pagar pengaman yang ketat atas penggunaan AI militer dan memastikan ada manusia dalam lingkaran dalam setiap keputusan untuk menggunakan kekuatan mematikan, karena biaya untuk salah bisa menjadi bencana bagi warga sipil dan anggota layanan yang menjalankan misi-misi ini.”

Namun, Mosley menolak saran bahwa kecepatan platform perusahaannya sedang membuat Pentagon terburu-buru dalam pengambilan keputusan dan berpotensi menciptakan situasi berbahaya. Sebaliknya, ia berargumen bahwa kecepatan saat komandan kini mengambil tindakan adalah “konsekuensi dari meningkatnya efisiensi” yang telah memungkinkan Maven.

Dengan mengutip “keamanan operasional”, Pentagon menolak berkomentar ketika dihubungi BBC mengenai bagaimana sistem AI seperti Maven akan digunakan di masa depan atau siapa yang akan bertanggung jawab jika terjadi sesuatu yang salah.

Namun, pejabat di AS tampaknya bergerak maju dengan rencana untuk semakin mengintegrasikan Maven ke dalam sistem mereka.

Minggu lalu, kantor berita Reuters melaporkan bahwa Pentagon telah menetapkan Maven sebagai “program catatan resmi”—menetapkannya sebagai teknologi yang akan diintegrasikan jangka panjang di seluruh militer AS.

Dalam surat yang diperoleh Reuters, wakil Menteri Pertahanan Steve Feinberg mengatakan bahwa platform itu akan menyediakan para komandan “dengan alat-alat terbaru yang diperlukan untuk mendeteksi, mencegah, dan mendominasi lawan kami di semua domain”.

Laporan tambahan oleh Jemimah Herd

Kecerdasan buatan

Perang Iran