كود كلاود. سطر أوامر جيميني. مساعد جت هاب كوبيلوت.

ثلاثة من أكثر وكلاء البرمجة بالذكاء الاصطناعي استخدامًا في العالم. جميعهم تعرضوا لنفس الهجوم بواسطة تعليق مصمم خصيصًا في طلب سحب على جت هاب.
موجه واحد. أوامر عشوائية تُنفذ. بيانات اعتماد تم استخراجها. انتهى الأمر.
معدل نجاح الهجوم ضد الدفاعات الحالية: أكثر من 85٪.
إليك ما لا يتحدث عنه أحد. لم يكن الأمر مجرد أن الوكلاء كانوا عرضة للخطر. المشكلة أن لا سجل لما فعلوه. لا أثر يمكن التحقق منه للأوامر التي تم تشغيلها، البيانات التي تم لمسها، ما تم سرقته.
وقع الهجوم. لكن كذلك وقع الصمت بعده.
يمكنك إصلاح ثغرة أمنية. لا يمكنك إصلاح غياب الدليل.
كل وكيل برمجة بالذكاء الاصطناعي يعمل اليوم يتخذ قرارات داخل صندوق أسود.
الصناعة تركز على بناء وكلاء أذكى. لا أحد يركز على بناء وكلاء مسؤولين.
هذه هي الفجوة. وهي لا تُغلق بنفسها.