أعلنت مايكروسوفت أنه لا يمكن الوثوق بالنماذج المتقدمة، وهي تصنف الوكلاء المستقلين كتهديدات داخلية بدلاً من متصلين خارجيين. كشفت الشركة عن أدوات لمراقبة الوكلاء المارقين والسيطرة عليهم، إلى جانب تحديثات Microsoft Foundry التي تضيف وكلاء مجدولين واستخدامًا أذكى للأدوات. الموقف المعلن هو أن الأمن يجب أن يتحرك بسرعة الوكيل. التغطية: تقرير أول، تقرير ثانٍ، تقرير ثالث، تقرير رابع.
يُحدث هذا التصنيف فرقًا في كيفية تصميم أنظمة الوكلاء. فبمجرد التعامل مع الوكيل المفوّض ككيان أصلي داخل حدود الثقة، تتوقف ضوابط المحيط عن كونها خط الدفاع الأساسي. وما يحل محلها هو المراقبة السلوكية، وبيانات اعتماد محددة النطاق، ووصول الأدوات بأقل صلاحية لكل وكيل، مع التعامل مع التشغيلات المجدولة واستدعاءات الأدوات كإجراءات قابلة للتدقيق بدلاً من مخرجات نموذج غير شفافة.
بالنسبة للفرق التي تطلق أنظمة متعددة الوكلاء، يتماشى هذا مع الممارسة المعتمدة بالفعل في الإنتاج: حدود قدرات صريحة، وهوية لكل وكيل، وتسجيل استدعاء الأدوات، وكشف الشذوذ في سلوك الوكيل. إن تصريح البائع بأن الأمن يجب أن يتحرك بسرعة الوكيل يعني ضمنيًا ضوابط تقيّم الإجراءات في وقت التشغيل، وليس فقط عند النشر.
ما يظل غير واضح من التغطية هو نطاق أدوات المراقبة، وما إذا كانت تنطبق على نماذج الطرف الثالث، وكيف يتم تقييم كشف الوكلاء المارقين. تعتبر Behzat AI هذه أسئلة مفتوحة للاختبار وليست ضمانات مستقرة.