نشرت MIT Technology Review حجة مفادها أن المراقبة الفورية لأفعال وكلاء الذكاء الاصطناعي أصبحت ضرورة ملحّة لا طموحًا مستقبليًا. يضع المقال هذه القدرة في إطار ثغرة قائمة: فالرقابة التي تعيد بناء ما فعله الوكيل من السجلات تصل متأخرة جدًا لتغيير نتيجة التشغيل. ويكتسب هذا التأطير أهميته لأنه يتعامل مع المراقبة بوصفها مشكلة في مسار التنفيذ، لا مشكلة في إعداد التقارير.
النتيجة التقنية واضحة مباشرة. فالوكيل الذي يصدر tool calls أو يكتب إلى أنظمة خارجية أو يولّد وكلاء فرعيين يمكن أن يتجاوز نطاقه المقصود بكثير داخل مسار واحد. ومراجعة السجلات بعد وقوع الحدث يمكنها وصف هذا التجاوز لكنها لا تستطيع تقييده، لأن نقطة التحكم الفعّالة الوحيدة هي اللحظة التي تسبق تنفيذ الفعل. ووضع فحص في ذلك المسار يعني أن على المراقب أن يمتلك رؤية موثوقة للسياسة وأذونات الأدوات وحالة المهمة الراهنة، وأن يكون قادرًا على إيقاف خطوة أو إعادة توجيهها دون إفساد السياق المحيط.
يأتي هذا المطلب جنبًا إلى جنب مع تحركات المورّدين نحو guardrails وقت التشغيل وبيانات تتبّع الوكلاء (agent telemetry)، ما يشير إلى أن طبقة الأدوات بدأت تتقارب نحو الاستنتاج نفسه. لكن ما لا يثبته التغطية هو كيفية تقييم هذه المراقبات، أو ميزانية الـ latency المقبولة قبل أن يصبح الإيقاف غير عملي، أو أنماط الفشل التي تظهر عند اختلاف المراقب والوكيل. تبقى هذه أسئلة هندسية مفتوحة لا ممارسة مستقرة.
التغطية: MIT Technology Review عبر Google News.