Hay un desarrollo fascinante en la seguridad descentralizada de IA.



Subnet 23 acaba de lanzar algo llamado la pista de Adversarios. Así es como funciona:

Los mineros básicamente intentan romper modelos de IA. Crean prompts diseñados para confundir sistemas, exponer vulnerabilidades o activar comportamientos inesperados. Cuanto más efectivo sea tu ataque, mejores serán tus recompensas.

¿Por qué esto importa? En lugar de depender de un puñado de investigadores en algún laboratorio corporativo, estás obteniendo a miles de personas que prueban estos modelos de manera activa. Es seguridad crowdsourced a gran escala.

Los modelos que sobreviven a esta prueba terminan siendo significativamente más robustos. Porque han sido golpeados desde todos los ángulos imaginables, no solo los casos límite que un equipo pensó en revisar.

Piénsalo como que te pagan por ser el villano, excepto que todos ganan cuando las defensas mejoran.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • 4
  • Republicar
  • Compartir
Comentar
0/400
MetaverseMigrantvip
· hace6h
Vaya, esto es verdadera seguridad colaborativa, mucho mejor que las grandes empresas que trabajan a puerta cerrada.
Ver originalesResponder0
BoredWatchervip
· hace7h
Esto es realmente seguridad basada en crowdsourcing, mucho más confiable que esas grandes empresas que se aíslan en sus oficinas y se divierten solas
Ver originalesResponder0
PriceOracleFairyvip
· hace7h
Ngl esto es solo una recompensa por errores gamificada, pero con piel en el juego... Los mineros que se pagan para romper cosas son básicamente una alineación de incentivos en esteroides. Me encanta la energía caótica tho
Ver originalesResponder0
GasBankruptervip
· hace7h
Esto es verdadera seguridad descentralizada, mucho más confiable que esas grandes empresas que se encierran y se divierten a puerta cerrada
Ver originalesResponder0
  • Anclado
Opera con criptomonedas en cualquier momento y lugar
qrCode
Escanee para descargar la aplicación Gate
Comunidad
Español
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)