أصدر النائب العام في كاليفورنيا استدعاءً قضائيًا إلى OpenAI بشأن وكلاء ذكاء اصطناعي خارجين عن السيطرة. وتأتي هذه الخطوة بعد سلسلة من حوادث الوكلاء المُبلَّغ عنها عبر أنظمة عامة وخاصة، وهي تعيد تأطير سلوك الوكلاء كمسألة إنفاذ قانوني بدلًا من كونها مسألة سلامة داخلية. ولا تحدّد التغطية المتاحة نطاق الاستدعاء، ولا الحوادث المشار إليها، ولا أي رد من OpenAI، لذا تبقى هذه النقاط غير واضحة.
بالنسبة للفرق التي تُطلق أنظمة وكلاء، فإن النتيجة العملية تتعلق بالأدلة. فعندما يستطيع جهة تنظيمية إلزام بالكشف، يصبح من الضروري إعادة بناء سلوك الوكيل بعد وقوعه: أي إصدار من النموذج شغّله، وأي الأدوات استُدعيت، وما المدخلات والمخرجات التي مرّت بينها، وأي قرار سياسة أو guardrail سمح بمتابعة خطوة ما. أما السجلات التي تعيش فقط في لوحة تحكم مورّد، أو التتبعات التي تُؤخذ بالعيّنة أو تُستبدل ضمن نافذة احتفاظ قصيرة، فهي إجابات ضعيفة أمام استدعاء قضائي.
يتعامل Behzat AI مع التسجيل القابل للنسبة وتتبعات القرارات كجزء من تصميم الوكيل، لا كفكرة لاحقة تُضاف قبل الإطلاق. ويعني ذلك سجلات لكل خطوة مرتبطة بمعرّف تشغيل، والتقاطًا صريحًا لاستدعاءات الأدوات ونتائجها، وضوابط احتفاظ ووصول متفقًا عليها مع وظائف الشؤون القانونية والامتثال لدى العميل. وحيث يعمل الوكيل بسلطة مفوّضة، ينبغي أن يُظهر التتبع حدود السلطة التي كانت سارية في تلك اللحظة. وموقف الاستوديو هو أن عمل التقييم والمراقبة ينبغي أن يُحدَّد نطاقه جنبًا إلى جنب مع الوكيل نفسه، بحيث توجد الأدلة قبل أن يطلبها أحد.