Há um desenvolvimento fascinante na segurança descentralizada de IA.

A Subnet 23 acabou de lançar algo chamado o percurso dos Adversários. Aqui está como funciona:

Os mineiros basicamente tentam quebrar modelos de IA. Eles elaboram prompts projetados para confundir sistemas, expor vulnerabilidades ou desencadear comportamentos inesperados. Quanto mais eficaz for o seu ataque, melhores serão as suas recompensas.

Por que isso importa? Em vez de depender de um punhado de investigadores em algum laboratório corporativo, você tem milhares de pessoas testando esses modelos ativamente. É uma segurança crowdsourced em escala.

Os modelos que sobrevivem a esse teste acabam significativamente mais robustos. Porque foram submetidos a todos os ângulos imagináveis, não apenas aos casos extremos que uma equipe pensou em verificar.

Pense nisso como ser pago para ser o vilão - exceto que todos ganham quando as defesas melhoram.