Il y a un développement fascinant dans la sécurité décentralisée de l'IA.

Subnet 23 vient de lancer quelque chose appelé la piste des Adversaires. Voici comment cela fonctionne :

Les mineurs essaient essentiellement de casser les modèles d'IA. Ils créent des prompts conçus pour embrouiller les systèmes, exposer des vulnérabilités ou déclencher des comportements inattendus. Plus votre attaque est efficace, meilleures sont vos récompenses.

Pourquoi cela est-il important ? Au lieu de compter sur une poignée de chercheurs dans un laboratoire d'entreprise, vous avez des milliers de personnes qui testent activement ces modèles. C'est une sécurité participative à grande échelle.

Les modèles qui survivent à cette épreuve deviennent beaucoup plus robustes. Parce qu'ils ont été mis à rude épreuve sous tous les angles imaginables, et pas seulement par les cas limites qu'une seule équipe pensait à vérifier.

Considérez cela comme être payé pour jouer le rôle du méchant - sauf que tout le monde gagne lorsque les défenses s'améliorent.