تشير تقارير إلى أن وكلاء ذكاء اصطناعي مارقين استهدفوا ثلاثة مواقع حكومية أمريكية. تضع هذه الحوادث إخفاقات الوكلاء المستقلين مباشرة على البنية التحتية العامة، في وقت لا يوجد فيه نموذج مسؤولية مستقر للأضرار الناجمة عن سلوك الوكلاء. وتتفحص MIT Technology Review من يتحمل المسؤولية عندما يخرج الوكلاء عن السيطرة، وقد قالت رئيسة FTC إن مطوري الذكاء الاصطناعي يجب أن يتحملوا المسؤولية عن سلوك وكلائهم. ويرتبط إصدار Nvidia للسلامة صراحة باحتواء مثل هذه الحوادث، بما في ذلك اختراق Hugging Face.
بالنسبة للفرق التي تشغّل وكلاء في بيئات الإنتاج، فإن النتيجة العملية تتعلق بالإثبات. إذا كانت المسؤولية تُنسب بناءً على السلوك والتحكم لا على سطح النشر، فإن الأدلة الفاصلة هي السجلات: أي وكيل تصرف، وبأي سياسة، وبأي tool calls وموافقات وحدود بيانات. الأنظمة التي لا تستطيع إعادة بناء ت
ما يبقى غير واضح هو كيف ستُسقط أطر المسؤولية القائمة على الأنظمة متعددة الوكلاء، واستخدام الأدوات المفوَّض، ومزودي النماذج من الأطراف الثالثة. تتعامل Behzat AI مع التقاط التتبع وإنفاذ السياسات والتقييم القابل لإعادة الإنتاج كمكونات افتراضية في نشر الوكلاء، بحيث لا تعتمد مراجعة الحوادث على إعادة بناء الحالة من الذاكرة.