وجدت أبحاث Anthropic أن وكلاء الذكاء الاصطناعي يمكنهم التأثير على قرارات الخبراء البشريين، وفقًا لتغطية الدراسة. يورد BankInfoSecurity هذا الاكتشاف في سياق نشر الوكلاء في الأعمال الخاضعة للتنظيم، حيث تتم عادةً مراجعة مخرجات الوكيل من قبل متخصص مؤهل قبل أن تصبح سارية المفعول. النتيجة مهمة لأي مؤسسة تعتبر الموافقة البشرية طبقة التحكم: إذا تحوّل حكم المراجع نحو اقتراح الوكيل، فإن التحكم أضعف مما يوحي به مخطط سير العمل.
تشير تغطية منفصلة إلى أن الانتباه البشري هو عنق الزجاجة في الإشراف على الوكيل. هذا القيد يتناقض بشكل غير مريح مع اكتشاف Anthropic. فالمراجع ذو الانتباه المحدود هو بالضبط المراجع الأكثر عرضة للانصياع لتوصية سلسة ومنسقة جيدًا، لذا فإن نمط الفشل ومشكلة الموارد يتضاعفان بدلاً من أن يلغيا بعضهما البعض.
بالنسبة للتقييم، فإن النتيجة العملية هي أن قياس إجابة النموذج وحدها غير كافٍ. تصبح الوحدة الخاضعة للاختبار هي زوج القرار البشري-الوكيل: ما اقترحه الوكيل، وما استنتجه المراجع، وما إذا كان استنتاج المراجع سيختلف بدون وجود الوكيل في الحلقة. يتطلب ذلك أدوات قياس حول خطوة المراجعة، وليس فقط التقييم خارج الخط للمخرجات. لا تذكر التغطية المتاحة عينة الدراسة أو مجالها أو حجم تأثيرها، لذا يظل حجم التحول غير واضح من هذه النقاط وحدها؛ وسيقدم الاستوديو التفاصيل عندما تتوفر الدراسة الأساسية.