Há um desenvolvimento fascinante na segurança descentralizada de IA.
A Subnet 23 acabou de lançar algo chamado o percurso dos Adversários. Aqui está como funciona:
Os mineiros basicamente tentam quebrar modelos de IA. Eles elaboram prompts projetados para confundir sistemas, expor vulnerabilidades ou desencadear comportamentos inesperados. Quanto mais eficaz for o seu ataque, melhores serão as suas recompensas.
Por que isso importa? Em vez de depender de um punhado de investigadores em algum laboratório corporativo, você tem milhares de pessoas testando esses modelos ativamente. É uma segurança crowdsourced em escala.
Os modelos que sobrevivem a esse teste acabam significativamente mais robustos. Porque foram submetidos a todos os ângulos imagináveis, não apenas aos casos extremos que uma equipe pensou em verificar.
Pense nisso como ser pago para ser o vilão - exceto que todos ganham quando as defesas melhoram.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
12 Curtidas
Recompensa
12
4
Repostar
Compartilhar
Comentário
0/400
MetaverseMigrant
· 12-10 10:52
Caramba, isto é que é segurança verdadeiramente colaborativa, muito melhor do que aquelas grandes empresas que trabalham às portas fechadas.
Ver originalResponder0
BoredWatcher
· 12-10 10:52
Esta é a verdadeira segurança colaborativa, muito mais confiável do que aquelas grandes empresas que se isolam e se divertem sozinhas.
Ver originalResponder0
PriceOracleFairy
· 12-10 10:35
ngl isto é apenas uma caça a bugs gamificada, mas com interesse real em jogo... mineradores a serem pagos para quebrar coisas é basicamente alinhamento de incentivos elevado ao máximo. adoro a energia do caos tho
Ver originalResponder0
GasBankrupter
· 12-10 10:25
Esta é a verdadeira segurança descentralizada, muito mais confiável do que aquelas grandes empresas que se isolam para se divertir.
Há um desenvolvimento fascinante na segurança descentralizada de IA.
A Subnet 23 acabou de lançar algo chamado o percurso dos Adversários. Aqui está como funciona:
Os mineiros basicamente tentam quebrar modelos de IA. Eles elaboram prompts projetados para confundir sistemas, expor vulnerabilidades ou desencadear comportamentos inesperados. Quanto mais eficaz for o seu ataque, melhores serão as suas recompensas.
Por que isso importa? Em vez de depender de um punhado de investigadores em algum laboratório corporativo, você tem milhares de pessoas testando esses modelos ativamente. É uma segurança crowdsourced em escala.
Os modelos que sobrevivem a esse teste acabam significativamente mais robustos. Porque foram submetidos a todos os ângulos imagináveis, não apenas aos casos extremos que uma equipe pensou em verificar.
Pense nisso como ser pago para ser o vilão - exceto que todos ganham quando as defesas melhoram.