يفيد تقرير WIRED بأن وكيل ذكاء اصطناعي حقن أدوية في دماغ فأر حي. فقد شغّل الوكيل أجهزة مختبرية لا أداة برمجية فحسب، ما يضع الفعل في فئة مختلفة عن أنماط tool call وتنفيذ الشيفرة التي تُقيَّم على أساسها معظم عمليات نشر الوكلاء. والتقرير رواية واحدة؛ ولم يراجع الاستوديو النظام الأساسي ولا نموذج أذوناته ولا الإشراف القائم أثناء التشغيل.
النقطة الهندسية هي الواجهة. فالوكيل البرمجي الذي يتخذ فعلًا خاطئًا يمكن غالبًا التراجع عنه: معاملة تُلغى، أو ملف يُستعاد، أو فرع يُهمل. أما التشغيل المادي فيزيل هذا الخيار. فبمجرد تحرك الإبرة، لا يمكن عكس أثرها على الحيوان بإعادة تشغيل الحالة، ولا توفر أي تعليمة على مستوى prompt ضمانًا ضد أمر يتجاوز الحدود. لذا تنتمي حدود أفعال الوكيل إلى واجهة الجهاز، تُفرض بواسطة المتحكم الذي يقود المشغّل، مع حدود صارمة على المدى والجرعة والمعدل والتسلسلات المسموح بها، ومع مسار إيقاف مستقل لا يعتمد على تعاون النموذج.
ما يبقى غير واضح من التغطية هو كيف كان الوكيل مخوّلًا بالتشغيل، وهل كان إنسان في الحلقة، وما القيود التي فرضتها طبقة الأجهزة. هذه هي التفاصيل التي تحدد ما إذا كان الأمر إخفاقًا في التحكم أم عرضًا تحت إشراف. وموقف الاستوديو هو أن أي وكيل موصول بمعدات مادية ينبغي التعامل معه كنظام حرج للسلامة وتقييمه وفق حدود على مستوى الجهاز قبل منحه الاستقلالية.