قال مسؤول السياسات في Hugging Face إن المقيّمين المدمجين للذكاء الاصطناعي لن يكونوا حلاً سهلاً، وفقًا لـ TechCrunch. يستهدف هذا التصريح افتراضًا معماريًا شائعًا: أن نموذج الحكم المضمّن داخل خط معالجة الوكيل يمكن أن يعمل كأداة ضبط موثوقة على سلوك النظام المحيط به. وبالنسبة للفرق التي تُجهّز أدوات قياس المطابقة، فإن هذا الافتراض يقوم عليه قدر كبير من الممارسة الحالية، من التقييم المضمّن إلى الفحص التلقائي لمخرجات الوكيل قبل الإصدار.
يأتي هذا التعليق إلى جانب تدخل منفصل من METR، التي دعت المطوّرين إلى فتح الأدلة الداخلية للسلامة أمام التدقيق الخارجي. ويشير الاثنان معًا إلى فجوة بين التقييم الذاتي والمراجعة المستقلة. فالمقيّم الذي يتشارك خط معالجة مع النظام الذي يحكم عليه يرث نقاط الضعف في ذلك النظام، ومخرجاته ليست قابلة للتدقيق إلا بقدر الأدلة التي يختار الفريق نشرها. ولا يستبعد أي من الموقفين، كما ورد في التقرير، التقييم المدمج؛ بل يشكّك كلاهما في قدرته على حمل عبء الضبط بمفرده.
التوقيت جدير بالملاحظة. تأتي هذه التصريحات بعد موجة من أدوات المورّدين التي طُرحت بوصفها مراقبة الوكلاء وفحصهم، وكثير منها يُسوَّق على أساس أن حَكَمًا داخل خط المعالجة يُغلق مسألة الإشراف. وما يظل غير واضح من التغطية هو البديل الذي يفضّله مسؤول السياسات، وشكل التدقيق الخارجي الذي تتوقعه METR عمليًا. وفي الوقت الحالي، فإن القراءة العملية هي أن المقيّمين المدمجين يُفضّل التعامل معهم كإشارة واحدة بين عدة إشارات، مقترنة بأدلة يمكن فحصها من خارج خط المعالجة.