Sistem otonom yang paling ditakuti bukanlah kesalahan itu sendiri, melainkan ketika terjadi sesuatu, tidak ada yang bisa menjelaskan mengapa hal itu dilakukan.

Orang sebenarnya bisa menerima kesalahan penilaian, tetapi sangat sulit mentolerir suatu keadaan:
Hasilnya sudah terjadi, tetapi jalur pengambilan keputusan menjadi kotak hitam.

Banyak AI terjebak dalam skenario risiko tinggi dan sulit melangkah maju, bukan karena kemampuannya tidak cukup, tetapi karena logika pengambilan keputusannya sama sekali tidak dapat diverifikasi dari luar.

Pilihan @inference_labs sangat jelas:
Tidak repot-repot menjelaskan apa yang dipikirkan model 「di dalam kepala」, melainkan langsung membuktikan apakah perilakunya melampaui batas.

Apakah perilaku tersebut sesuai aturan, apakah aturan ditegakkan secara ketat, apakah keputusan dapat dilacak.
Dalam dunia sistem otonom, ini seringkali lebih penting daripada 「menjelaskan alasan secara lancar」.