Ingat ketika dewan mengeluarkan Sam dari posisi CEO? Mungkin mereka melihat sesuatu yang tidak kita lihat.

Sepertinya sebuah laboratorium AI besar sedang meluncurkan protokol keamanan baru untuk model mereka. Mereka secara khusus fokus pada membangun pengaman untuk mencegah output yang berbahaya. Pendekatan pelatihan sekarang mencakup mengajarkan model bagaimana menangani permintaan berisiko tanpa benar-benar mengeksekusinya.

Waktu yang menarik, bukan? Langkah-langkah keamanan ini datang setelah berbulan-bulan perdebatan internal tentang kecepatan pengembangan AI versus tanggung jawab. Kerangka teknisnya melibatkan penyaringan berlapis sebelum respons model apa pun dihasilkan.

Apa yang menarik perhatian saya: mereka tidak lagi hanya menyaring output. Data pelatihan itu sendiri sedang direstrukturisasi untuk menyematkan pertimbangan keamanan dari awal. Pendekatan yang berbeda dari moderasi reaktif yang pernah kita lihat sebelumnya.

Namun, pertanyaan tetap ada apakah perlindungan ini dapat mengikuti kecepatan evolusi sistem ini. Kesenjangan antara kemampuan dan kendali terus melebar.