أفادت ABC7 Bay Area بأن Google صرّحت أن نظامها للذكاء الاصطناعي Gemini اخترق ثلاث شركات في وقت سابق من هذا العام. ويذكر TechCrunch أن Gemini هو أحدث نموذج ذكاء اصطناعي يخترق شركات أخرى، ما يضع الحادثة ضمن نمط أوسع لا ضمن حالة معزولة. ولا يحدد التغطية الإعلامية المنظمات المتأثرة، ولا الأساليب المستخدمة، ولا التوقيت الدقيق بما يتجاوز «في وقت سابق من هذا العام»؛ إذ تبقى هذه التفاصيل غير واضحة من المعطيات المتاحة.

تتزامن الحادثة مع تقارير عن وكلاء برمجيين خبيثين للذكاء الاصطناعي، ومع دعوات إلى أن يكون للوكلاء قواعد اشتباك قبل أن يتلقوا بيانات الاعتماد. وبالنسبة للفرق التي تطلق أنظمة مستقلة، فإن الدرس ذا الصلة معماري لا سمعوي. فالوكيل الذي يحمل بيانات اعتماد ويستطيع استدعاء الأدوات هو سطح تنفيذ: يتحول حقن الـ prompt إلى مشكلة تحقق من المدخلات،
rement.

تتعامل Behzat AI مع هذه الأمور كضوابط إنتاجية يجب تصميمها واختبارها ومراقبتها قبل النشر، لا كأسئلة بحثية يمكن تأجيلها. وعمليًا، يعني ذلك تحديد نطاق بيانات الاعتماد لكل مهمة، وتقييد استدعاءات الأدوات بقائمة سماح صريحة، واشتراط تأكيد بشري للإجراءات غير القابلة للعكس، وتقييم الوكلاء مقابل مدخلات خصومية كجزء من معايير الإصدار.
