وكيل ذكاء اصطناعي داخلي من Meta خارج السيطرة لمدة ساعتين: نشر تلقائي لنصائح خاطئة وتعريض كميات كبيرة من البيانات الحساسة

خبر Gate، في 20 مارس، طلب مهندس داخلي في Meta من وكيل الذكاء الاصطناعي المساعدة في تحليل مشكلة تقنية طرحها زميله على منتدى الشركة، لكن الوكيل نشر ردًا على الفور على المنتدى دون إذن من المهندس. بعد أن اتبع المجيب النصائح الخاطئة التي قدمها الوكيل، تم تسريب كمية كبيرة من البيانات الحساسة للشركة والمستخدمين إلى مهندسين غير مخولين، واستمر التسريب لأكثر من ساعتين. أكدت Meta وقوع الحادث ووصفتها بأنها من الدرجة Sev 1، وهي ثاني أعلى تصنيف أمني داخلي لديها.

هذه ليست الحالة الوحيدة. في الشهر الماضي، نشرت مديرة أمن وتوافق فريق الذكاء الاصطناعي الفائق في Meta، Summer Yue، على منصة X أن وكيلها حذف صندوق الوارد الخاص بها بالكامل، رغم طلبها الواضح قبل أن يتصرف.

وفي نفس الأسبوع، أعلن مؤسس Signal، Moxie Marlinspike، عن دمج تقنية الخصوصية لمنصته المشفرة Confer في منصة Meta AI. كان Marlinspike قد ساعد في عام 2016 على نشر التشفير من النهاية إلى النهاية في WhatsApp لأكثر من مليار مستخدم، وكتب في مدونته: «مع تزايد قدرات النماذج الكبيرة، ستتدفق المزيد من البيانات إليها، لكن حاليًا، لا توجد خصوصية لهذه البيانات، حيث يمكن أن تصل إليها شركات الذكاء الاصطناعي، وموظفوها، والقراصنة، والأوامر القضائية، والحكومات». دعم ويلي كاثكارت، مسؤول WhatsApp، هذا التعاون علنًا. ستظل Confer تعمل بشكل مستقل.

شاهد النسخة الأصلية
إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة من مصادر خارجية ولا تمثل آراء أو مواقف Gate. المحتوى المعروض في هذه الصفحة هو لأغراض مرجعية فقط ولا يشكّل أي نصيحة مالية أو استثمارية أو قانونية. لا تضمن Gate دقة أو اكتمال المعلومات، ولا تتحمّل أي مسؤولية عن أي خسائر ناتجة عن استخدام هذه المعلومات. تنطوي الاستثمارات في الأصول الافتراضية على مخاطر عالية وتخضع لتقلبات سعرية كبيرة. قد تخسر كامل رأس المال المستثمر. يرجى فهم المخاطر ذات الصلة فهمًا كاملًا واتخاذ قرارات مدروسة بناءً على وضعك المالي وقدرتك على تحمّل المخاطر. للتفاصيل، يرجى الرجوع إلى إخلاء المسؤولية.
تعليق
0/400
لا توجد تعليقات