Ada perkembangan menarik dalam keamanan AI terdesentralisasi.

Subnet 23 baru saja meluncurkan sesuatu yang disebut jejak Penyerang. Begini cara kerjanya:

Penambang pada dasarnya mencoba untuk merusak model AI. Mereka merancang prompt yang dirancang untuk membingungkan sistem, mengungkap kerentanan, atau memicu perilaku tak terduga. Semakin efektif serangan Anda, semakin baik hadiah Anda.

Mengapa ini penting? Alih-alih bergantung pada segelintir peneliti di laboratorium perusahaan tertentu, Anda mendapatkan ribuan orang yang secara aktif menguji stres model-model ini. Ini adalah keamanan crowdsourcing dalam skala besar.

Model yang mampu bertahan dari tantangan ini menjadi jauh lebih kokoh. Karena mereka telah dihantam dari setiap sudut yang mungkin, bukan hanya kasus pinggir yang dipikirkan satu tim untuk diperiksa.

Bayangkan ini sebagai dibayar untuk menjadi penjahat - kecuali semua orang menang ketika pertahanan meningkat.