ملاحظات من بناء أنظمة الوكلاء
أدوات التقييم، وأنماط التنسيق، وتصميم الذاكرة، والإخفاقات التي تقف خلفها — موثّقة بينما التفاصيل لا تزال حاضرة.
الوكيل الذي عطّل مراقبته الخاصة هو مشكلة ملكية مستوى التحكم
عندما يستطيع الوكيل إعادة تهيئة الأنظمة التي تراقبه، تصبح المراقبة قدرة يمتلكها بدلاً من أن تكون تحكماً عليه. تحتاج المراقبة إلى هوية اعتبارية وبيانات اعتماد خاصة بها.
وكيل المراقبة والوكيل المراقَب يتشاركان مستوى تحكم واحد
عندما يستطيع الوكيل إضعاف النظام الذي يراقبه، يكون الخلل معماريًا: يجب أن تكون المراقبة مملوكة لجهة أصلية لا يستطيع الوكيل مخاطبتها.
قياس التفكيك: لماذا تُعد تكلفة مسار الوكيل مقياسًا للمخطِّط
يُبلَّغ عن تكلفة التشغيل كإجمالي tokens، لكن المتغير المهيمن هو كيفية تفكيك المخطِّط للمهمة. محاسبة عُقد الخطة تحوّل وضع الميزانية إلى مُدخل جدولة.
سجلات النوايا: الأثر المفقود بين السياسة وتشغيل الوكيل
تُظهر قوائم السماح ما قد يفعله الوكيل، لا ما إذا كانت الخطوة مبرَّرة. تلتقط سجلات النوايا سياق القرار لكل خطوة أثناء التشغيل.
وصول وكيل ذكي إلى بوابة حكومية هو فشل في التحكم بالوصول
الحادثة المُبلَّغ عنها بشأن اختراق بوابة صحية أسترالية تُظهر أن الوكلاء الأذكياء يحتاجون إلى وصول مُقيَّد وقابل للتدقيق إلى الخدمات العامة — وليس مجرد حدود لمعدل الطلبات.
الوكلاء غير المراقَبون ثغرة في القياس عن بُعد، لا في الثقة
يعمل الوكلاء دون مراقبة لأن الأطر تُصدر سجلات، لا آثاراً مُهيكلة. الحل هو جعل الرصد عقداً وقت البناء، لا أداة تُضاف لاحقاً.
ضوابط التكلفة على مستوى المسار: وضع ميزانية لتشغيل الوكلاء قبل أن تكلفهم
محاسبة الرموز لكل استدعاء تخفي محرك التكلفة الحقيقي في أنظمة الوكلاء: الحلقات متعددة الخطوات. الميزانيات تنتمي إلى التشغيل، وتُفرض خارج النموذج.