Có một sự phát triển thú vị trong lĩnh vực an ninh AI phi tập trung.

Subnet 23 vừa ra mắt một cái gọi là theo dõi Thách Thức Đối Phương. Đây là cách hoạt động:

Thợ đào cơ bản cố gắng phá vỡ các mô hình AI. Họ tạo ra các câu hỏi kích thích nhằm làm rối hệ thống, phát hiện điểm yếu hoặc kích hoạt các hành vi bất ngờ. Càng hiệu quả trong việc tấn công, phần thưởng của bạn càng lớn.

Tại sao điều này quan trọng? Thay vì dựa vào một nhóm nhà nghiên cứu trong một phòng lab tập trung, bạn đang có hàng nghìn người kiểm thử căng thẳng những mô hình này một cách tích cực. Đây là an ninh dựa trên cộng đồng quy mô lớn.

Các mô hình vượt qua thử thách này trở nên vững chắc hơn nhiều. Bởi vì chúng đã bị tấn công từ mọi hướng có thể, không chỉ những trường hợp ngoại lệ mà một nhóm nghĩ ra để kiểm tra.

Hãy nghĩ về nó như việc được trả tiền để trở thành phản diện - ngoại trừ mọi người đều chiến thắng khi các lớp phòng thủ được cải thiện.