Mulai memikirkan hal ini setelah menyelami beberapa mekanisme token—yang membuat saya bertanya-tanya tentang sesuatu yang lebih gelap. Ketika sistem AI memiliki kekuasaan atas makhluk hidup, siapa yang sebenarnya bertanggung jawab ketika sesuatu berjalan tidak sesuai rencana?

Bayangkan skenario ini dimainkan oleh manusia yang membuat keputusan. Kesalahan akan jatuh ke suatu tempat yang konkrit. Tapi dengan AI yang mengendalikan? Lebih kabur. Jika algoritma salah dan terjadi sesuatu, siapa yang harus bertanggung jawab—pengkode, perusahaan, atau AI itu sendiri?

Terasa seperti kita sedang membangun sistem yang dapat mempengaruhi hasil nyata, tetapi kita belum menemukan jawaban atas pertanyaan tanggung jawab ini. Penasaran apa pendapat orang tentang ini. Apakah ini sesuatu yang harus kita selesaikan sebelum kasus penggunaan ini menjadi arus utama?