الانتقال إلى المحتوى الرئيسي

Anthropic: الانتباه البشري هو عنق الزجاجة في الإشراف على الوكلاء

Behzat AIagent-supervisionhuman-in-the-loopagent-operationsenterprise-aiattention-bottleneck
لقطة قريبة لخزانة خوادم مع كابلات وأضواء حالة وامضة في مركز بيانات

تذكر Fortune أن Anthropic وصفت جيشًا من Claudes يطالب كلٌّ منها بانتباه بشري. يضع هذا التأطير الانتباه، لا الاستدلال، كالمورد النادر في تشغيل الوكلاء. وهذا مهم لأن معظم برامج الوكلاء تستهين بقدرة الإشراف: فالحدّ على عدد الوكلاء الذين يمكن تشغيلهم في آنٍ واحد هو غالبًا عدد البشر المتاحين لمراجعة أفعالهم وتصحيحها والموافقة عليها، لا تكلفة استدعاءات النموذج أو سرعتها.

لقطة قريبة لخزائن خوادم مضاءة في مركز بيانات، صورة من مكتبة صور

تأتي هذه الملاحظة في أعقاب موجة من تقارير المؤسسات التي تفيد بأن التبني يتجاوز الثقة. فالفِرق تنشر الوكلاء أسرع مما تبني عمليات المراجعة ومسارات التصعيد وسجلات التدقيق اللازمة للإشراف عليها. وعندما يُعامَل الإشراف كفكرة لاحقة، يُقيَّد إنتاجية الوكلاء بانتباه عدد قليل من المشغّلين، وتتدهور الجودة مع نمو قوائم الانتظار. والحل التشغيلي ليس نموذجًا أفضل، بل تصميم إشراف: ملكية واضحة، واستقلالية محدودة، وتسليمات منظّمة، وأدوات قياس تُبرز فقط القرارات التي تحتاج إلى إنسان.

بالنسبة لبرامج الوكلاء، فإن الأثر العملي هو تخصيص ميزانية للإشراف كتكلفة أساسية. ويعني ذلك قياس حمل الانتباه لكل وكيل، وتحديد عتبات التصعيد، وتصميم واجهات تتيح لمشغّل واحد الإشراف على العديد من الوكلاء دون تبديل مستمر للسياق. فالمورد النادر هو الحكم البشري، والأنظمة التي تحترمه تتوسّع أكثر من تلك التي لا تفعل.

لنتحدث!