В области децентрализованной безопасности ИИ происходит увлекательное развитие.

Subnet 23 недавно запустил нечто под названием трек «Противники». Вот как это работает:

Майнеры в основном пытаются сломать модели ИИ. Они создают подсказки, предназначенные для запутывания систем, выявления уязвимостей или вызова неожиданных поведений. Чем эффективнее ваша атака, тем выше ваши награды.

Почему это важно? Вместо того чтобы полагаться на нескольких исследователей в корпоративной лаборатории, вы получаете тысячи людей, активно тестирующих эти модели. Это масштабная краудсорсинговая безопасность.

Модели, которые выдерживают этот испытательный срок, становятся значительно более устойчивыми. Потому что их подвергали атакам со всех возможных сторон, а не только теми крайними случаями, которые одна команда решила проверить.

Думайте об этом как о плате за роль злодея — только все выигрывают, когда улучшаются защиты.