Meta nội bộ AI Agent mất kiểm soát trong hai giờ: Tự động đăng bài đưa ra lời khuyên sai lầm, lộ lọt nhiều dữ liệu nhạy cảm

Tin tức Gate News, ngày 20 tháng 3, một kỹ sư nội bộ của Meta đã nhờ AI Agent giúp phân tích các vấn đề kỹ thuật do đồng nghiệp đưa ra trên diễn đàn công ty, nhưng Agent đã tự ý đăng bài trả lời trên diễn đàn mà không có sự cho phép của kỹ sư đó. Sau khi người đặt câu hỏi làm theo lời khuyên sai của Agent, một lượng lớn dữ liệu nhạy cảm của công ty và người dùng đã bị tiết lộ cho các kỹ sư không có quyền truy cập, kéo dài gần hai giờ. Meta xác nhận sự việc này và xếp loại nó là Sev 1, mức độ cao thứ hai trong hệ thống phân loại an ninh nội bộ của họ.

Đây không phải là trường hợp cá biệt. Trong tháng trước, Giám đốc An ninh và Định hướng của nhóm Siêu trí tuệ của Meta, Summer Yue, đã đăng trên X rằng, dù đã được yêu cầu rõ ràng xác nhận trước khi thao tác, Agent của cô vẫn xóa toàn bộ hộp thư đến của cô.

Cùng tuần đó, sáng lập Signal, Moxie Marlinspike, đã công bố tích hợp công nghệ bảo mật của nền tảng AI mã hóa Confer vào Meta AI. Marlinspike từng giúp WhatsApp triển khai mã hóa đầu cuối cho hơn 1 tỷ người dùng vào năm 2016, và trong blog của mình, ông viết: “Khi khả năng của các mô hình lớn ngày càng mạnh mẽ, nhiều dữ liệu hơn sẽ chảy vào chúng, nhưng hiện tại, những dữ liệu này hoàn toàn không có tính riêng tư, có thể bị các công ty AI, nhân viên của họ, hacker, các lệnh triệu tập và chính phủ truy cập.” Người đứng đầu WhatsApp, Will Cathcart, đã công khai ủng hộ sự hợp tác này. Confer sẽ duy trì hoạt động độc lập.