نشرت Anthropic بحثًا حول كيفية تأثير وكلاء الذكاء الاصطناعي في الأحكام التي يتخذها الخبراء، وفقًا لما ورد في أخبار الذكاء الاصطناعي لذلك اليوم، حيث جاء هذا الخبر إلى جانب تغطية لتبنّي المؤسسات لهذه التقنيات. وتكتسب طريقة الطرح أهمية بالنسبة للفرق التي تبني أنظمة الوكلاء: فبمجرد أن يصبح الوكيل وسيطًا بين خبير في مجال ما وقرار ما، تصبح النتيجة أقل اعتمادًا على النموذج الأساسي وأكثر اعتمادًا على الـ harness المحيط به — أي السياق الذي يُعرض، وما يُحجب، وكيف تُقدَّم التوصيات، وما إذا كان التعبير عن الاختلاف سهلًا.
وهذا يجعل الحكم مسألة تصميم وتقييم لا مسألة شراء. فالـ harness الذي يضيّق رؤية الخبير بهدوء قد يُنتج موافقة واثقة بينما يآكل التفكير الكامن وراءها، ولن تُظهر ذلك مقاييس دقة المهام المعتادة. تحتاج الفرق إلى تقييمات تختبر ما إذا كان الخبراء لا يزالون يلتقطون الأخطاء، ولا يزالون يتجاوزون الوكيل عندما يكون مخطئًا، ولا يزالون يشرحون تفكيرهم بعد الاستخدام المستمر. وبدون ذلك، يبقى التآكل غير مرئي حتى يصبح مكلفًا.
وبشكل منفصل، صرّحت Anthropic لصحيفة WSJ بأن تبنّي الذكاء الاصطناعي في المؤسسات لا يزال في مراحله المبكرة، وقد منحت جهة رقابية خارجية معنية بالذكاء الاصطناعي وصولًا على مستوى الموظفين إلى أنظمتها. ويشير الأمران إلى مجال لا يزال يعاير الرقابة. ولم تُثبَت منهجية الدراسة وحجم عينتها وأي تأثيرات مقاسة في التغطية المتاحة، لذا يبقى الاستنتاج العملي بنيويًا: تعامل مع الـ harness الخاص بالوكيل بوصفه موضوع التقييم، وصمّم للحفاظ على حكم الخبير منذ البداية.