Imaginez que vous ayez construit un modèle d'IA avancé à partir de zéro—des mois de travail, des millions investis. Puis quelqu'un le vole, le ajuste légèrement, et commence à le monétiser. Comment pourriez-vous même prouver qu'il vous appartient en premier lieu ?

C'est là qu'intervient la signature numérique des LLM. C'est une technique conçue pour intégrer des signatures cachées dans les modèles linguistiques, similaires aux filigranes numériques. En théorie, si votre modèle est volé, vous pouvez extraire ces signatures pour établir la propriété.

Mais voici la réalité inconfortable : des chercheurs en sécurité de SentientAI ont récemment découvert quelque chose de troublant. Lorsqu'ils ont testé 10 méthodes populaires de signature numérique contre des attaques adversariales, 9 d'entre elles ont complètement échoué. Un acteur malveillant déterminé peut supprimer ou manipuler ces signatures, rendant la vérification traditionnelle de propriété pratiquement inutile.

La conclusion ? Les solutions de signature numérique actuelles sont loin d'être infaillibles. À mesure que le vol de modèles d'IA devient plus sophistiqué, l'écart de sécurité entre les revendications de propriété et la protection réelle ne cesse de se creuser. Les communautés crypto et Web3, bâties sur la transparence et l'immutabilité, pourraient vouloir prêter une attention particulière—ce défi dépasse largement l'IA traditionnelle.