ملاحظات من بناء أنظمة الوكلاء
أدوات التقييم، وأنماط التنسيق، وتصميم الذاكرة، والإخفاقات التي تقف خلفها — موثّقة بينما التفاصيل لا تزال حاضرة.
الوكلاء لا يحتاجون إلى مزيد من الاستقلالية، بل إلى أسطح أدوات أضيق
معظم تجاوزات الوكلاء تبدأ من واجهة الأداة، لا من النموذج. تضييق السطح الذي يستدعيه الوكيل أكثر جدوى من تغليفه بضوابط حماية.
ميزانيات الخروج للوكيل: المعدل ليس هو المدى
حدود المعدل تقيّد سرعة تصرف الوكيل، لا إلى أين يتجه. يجب أن يكون التحكم في الخروج ميزانية للوجهات والقدرات، تُفرض عند الوسيط وتُسوّى بعد كل تشغيل.
تقييم مخاطر الوكيل إشارة وقت التشغيل، لا تقييم مورّد
بطاقات تقييم الوكلاء الثابتة تصبح قديمة في اللحظة التي تُستدعى فيها أداة. الأثر المفيد هو إشارة مخاطر مستمدة من التشغيل نفسه.
توجيه النماذج مشكلة تقييم قبل أن يكون مشكلة تحسين
لا يُجدي التوجيه بين النماذج نفعًا إلا عندما يُحكم على الموجّه بناءً على النتائج على مستوى المهمة ضمن مجموعة تقييم ثابتة، لا على التكلفة لكل token وحدها.
الأنظمة القديمة مشكلة قدرات للوكيل، لا مشكلة هدف
الوكلاء لا يجعلون الأنظمة القديمة حديثة التعرض للخطر؛ بل يجعلون افتراضات الثقة الضمنية في النظام قابلة للتنفيذ بسرعة الآلة. الحل هو تحديد نطاق القدرات عند الحدود.
الأنظمة القديمة مشكلة تضخيم للوكلاء
لا يبتكر الوكلاء ثغرات جديدة في الأنظمة القديمة؛ بل يرفعون معدل الاستغلال. الحل هو حدود المعدل والنطاق عند حدود الوكيل، وليس إعادة الكتابة.
استجواب النموذج أسلوب مراجعة، لا سمة شخصية
التعامل مع مخرجات الوكيل بوصفها ادعاءً يستحق الاستجواب، لا نتيجةً تُقبل كما هي، ممارسة تقييم قابلة للتكرار يمكن للفرق أن تكرّسها.
النية هي الإشارة المفقودة في قياس أمن الوكلاء
تسجّل منظومات الأمن ما يفعله الوكلاء، لا ما ينوون فعله. وجعل النية المعلَنة أثراً موقّعاً قابلاً للاستعلام يسدّ هذه الفجوة.
الرفض قرار توجيه، وليس خاصية نموذج
تجاوز الوكيل لحدوده غالبًا ما يكون قرار تفويض مفقودًا في مسار الطلب قبل النموذج. الأمان ينتمي إلى مسار الطلب، وليس فقط إلى تدريب المحاذاة.