حدود المراقبة
عادةً ما تُحكم أنظمة الوكلاء عبر مراقبتها. تُصدر التتبعات، وتُبنى لوحات المعلومات، وتُضبط العتبات، وتُنشأ مناوبة استدعاء. هذا مفيد، لكنه خاصية مختلفة عن التحكم. لوحة المعلومات ترصد فعلًا مكتملًا. بحلول الوقت الذي يتحول فيه مؤشر إلى الأحمر، يكون tool call قد نُفذ بالفعل، والكتابة قد وقعت، والأثر الجانبي الخارجي قد حدث. أفضل ما يمكن أن تفعله حزمة المراقبة هو تقصير الفترة بين الضرر واكتشافه.
تعتمد المراقبة أيضًا على اكتمال التتبع الآلي. إذا نسي غلاف أداة إصدار حدث، أو تجاوز مسار إعادة المحاولة العميل المزوّد بأدوات التتبع، أو شُحنت تكامل جديد دون مزخرف التتبع، تصمت لوحة المعلومات تحديدًا عن الأفعال الأقل فهمًا. فجوات التغطية في التتبع الآلي ليست موزعة بالتساوي؛ بل تتجمع حول أحدث مسارات الشيفرة وأقلها مراجعة، وهو المكان الذي تتركز فيه الحوادث.
الوكيل المراقب ذو الأذونات الواسعة يظل وكيلًا واسع الأذونات. الرصد لا يقلل مجموعة الحالات القابلة للوصول. إنه يضيف كاميرا إلى غرفة تبقى غير مقفلة. نموذج الأذونات هو ما يحدد ما هو ممكن؛ أما لوحة المعلومات فتحدد فقط ما يُلاحظ.
تضيف عتبات التنبيه تشويهًا إضافيًا. تُضبط العتبات لتقليل الضجيج، ما يعني أنها تُضبط لتحمل معدل معين من الشذوذات منخفضة المستوى. هذا حل وسط تشغيلي معقول للكشف، لكنه الأداة الخاطئة للمنع. السياسة التي تُطلق عندما تحدث عملية حساسة أكثر من عدد مُهيأ من المرات لكل فترة هي سياسة تسمح بالعديد من التكرارات الأولى. يتطلب المنع قرارًا قبل الحدوث الأول، لا حدًا للمعدل بعده.
النتيجة العملية هي أن الحوكمة المعبر عنها كمراقبة فقط تميل إلى التقارب نحو نمط الفشل نفسه: النظام مفهوم جيدًا في المجمل وغير مقيّد في الخاص. العرض المجمل قيّم حقًا لتحليل السعة والتكلفة والجودة. لكنه ليس سطح تحكم.
ترميز الثوابت
البديل هو التعبير عن السياسة كشروط مسبقة تُفحص عند الحد الذي تتحول عنده نية الوكيل إلى فعل: tool call. كل قدرة يملكها الوكيل يمكن الوصول إليها عبر واجهة أداة ما، وتلك الواجهة هي أضيق نقطة يمكن عندها فرض قرار. إذا حدث الفحص هناك، فإنه يحدث لكل مستدعٍ، بما في ذلك المستدعون الذين أُضيفوا بعد كتابة السياسة.
الشرط المسبق هو محمول على الاستدعاء المقترح والسياق المحيط. يمكنه الإشارة إلى الوسائط، وهوية الوكيل الطالب، والجلسة، والمورد الذي يُمس، وحالة البيئة. أمثلة على الشكل، لا المحتوى المحدد، تشمل: يجب أن يكون المورد الهدف داخل نطاق مسموح به؛ يجب أن تكون العملية قراءة عندما لا تكون الجلسة مرفوعة الصلاحية؛ يجب ألا يحتوي الحمولة على حقل مُعلّم كمقيّد؛ يجب أن يكون الاستدعاء مصحوبًا برمز موافقة صالح صادر عن سير عمل منفصل.
المخططات المُنمّطة تجعل هذا قابلًا للفرض بدلًا من كونه تمنيًا. إذا كان إدخال الأداة موصوفًا بمخطط ذي حقول مطلوبة وقيم مُعدّدة وأنواع محدودة، فإن الاستدعاء المشوّه يفشل عند وقت التحليل، قبل تشغيل أي معالج. سلوك الفشل المغلق ينبع من المخطط بدلًا من الشيفرة الدفاعية داخل المعالج. الوكيل الذي ينتج وسيطة تبدو معقولة لكنها خارج السياسة لا يصل إلى الأثر الجانبي؛ بل يتلقى رفضًا منظمًا وعليه أن يقرر ما سيفعله بعد ذلك.
آلية ملموسة تبدو هكذا. وقت تشغيل الوكيل لا يستدعي الأدوات مباشرة. بل يستدعي بوابة سياسة بطلب منظم:
{
"agent": "research-worker-3",
"session": "s-8841",
"tool": "documents.write",
"arguments": {"collection": "contracts", "document_id": "c-2210", "body": "..."},
"context": {"approval": null, "elevated": false}
}
تقيّم البوابة حزمة سياسة، وهي مجموعة مُصدّرة من القواعد مع مُقيّم حتمي. يعيد التقييم قرارًا ورمز سبب وإصدار السياسة. فقط عند السماح تستدعي البوابة الأداة الأساسية. تُعاد حالات الرفض إلى الوكيل كنتائج أداة عادية، فيمكن للوكيل التكيف دون أن يحتاج وقت التشغيل إلى معالجة خاصة للأخطاء.
خاصيتان مهمتان هنا. أولًا، محرك السياسة يقع خارج سياق النموذج. إنه ليس prompt، ولا رسالة نظام، ولا مستندًا يمكن للوكيل استرجاعه. لا يمكن المجادلة معه، ولا تلخيصه بعيدًا، ولا تجاوزه بتعليمات لاحقة. التأثير الوحيد للنموذج على القرار هو محتوى الطلب الذي يقدمه. ثانيًا، القرار حتمي بالنظر إلى الطلب وإصدار السياسة. الاستدعاء نفسه المُقيّم مرتين مقابل الحزمة نفسها ينتج النتيجة نفسها، وهذا ما يجعل القرار قابلًا للتفسير بعد وقوعه.
المقايضة الصادقة هي أن هذا ينقل التعقيد بدلًا من إزالته. كل قدرة جديدة تتطلب مدخل سياسة، وكل تغيير في السياسة هو تغيير في سلوك الإنتاج يحتاج إلى مراجعة. بوابة في مسار الطلب تضيف زمن استجابة ونمط فشل جديدًا: إذا كانت البوابة غير متاحة، فالافتراضي الصحيح هو الرفض، ما يعني أن انقطاعًا في طبقة السياسة يصبح انقطاعًا في قدرات الوكيل. الفرق التي تتبنى هذا النمط تقبل عمومًا هذه التكلفة لأن البديل هو انقطاع صامت وغير محدود. المقايضة هي توفر القدرة مقابل تقييد القدرة.
هناك مقايضة ثانية تستحق التسمية. المخططات الصارمة والنطاقات المسموح بها الضيقة تقلل فضاء الأفعال التي يمكن للوكيل اتخاذها، ما قد يقلل فائدته في المهام غير المتوقعة. التخفيف ليس إرخاء الحد بل جعل تغييرات السياسة سريعة وقابلة للمراجعة، بحيث يمكن للحد أن يتحرك عن قصد بدلًا من أن يكون ب
rver-rack-closeup-2ef8e4-33fefc.jpg)
التحكم الذي لا يمكن إثباته هو تحكم سيُشكَّك فيه. كل قرار سياسة، سواء بالسماح أو الرفض، يجب أن يصدر سجلًا كافيًا لإعادة بناء الاستدلال دون الوصول إلى النظام الحي. يتضمن ذلك السجل الطلب والقرار ورمز السبب وإصدار السياسة وتوقيعًا على التسلسل القانوني للقرار.
التوقيع مهم لسبب محدد: إنه يجعل السجل مقاومًا للتلاعب وقابلًا للنسبة إلى نقطة الفرض بدلًا من خط أنابيب التسجيل. يمكن تعديل سطر سجل أو إسقاطه أو إعادة ترتيبه. أما سجل القرار الموقّع فيمكن التحقق منه بشكل مستقل، ويمكن كشف الفجوة في التسلسل.
الاحتفاظ بإصدار السياسة إلى جانب القرار هو ما يجعل السلوك السابق قابلًا لإعادة التفسير. تتغير السياسات. القرار الذي كان صحيحًا تحت حزمة ما قد يكون غير صحيح تحت التالية. بدون الإصدار، على المدقق الذي يراجع فعلًا تاريخيًا أن يخمن أي القواعد كانت سارية. مع الإصدار، يمكن إعادة تشغيل المُقيّم نفسه مقابل الطلب المسجل وإعادة إنتاج القرار بدقة. هذا يحول التدقيق من مقابلة إلى تحقق.
تستحق حالات الرفض الاحتفاظ نفسه الذي تستحقه حالات السماح. الرفض دليل على أن الحد عمل. وهو أيضًا الإشارة الأساسية لضبط السياسة: الرفض الذي يُطلق باستمرار ضد عمل مشروع يشير إلى قاعدة واسعة جدًا، والرفض الذي لا يُطلق أبدًا في فئة من الجلسات قد يشير إلى قاعدة غير قابلة للوصول. الاحتفاظ بالجانبين يجعل سطح السياسة قابلًا للملاحظة دون جعله استشاريًا.
الجزء الأخير هو اختبار تغييرات السياسة مقابل التتبعات المسجلة قبل النشر. إذا سُجلت القرارات مع طلباتها، فيمكن تقييم حزمة سياسة مرشحة دون اتصال مقابل مجموعة من الاستدعاءات التاريخية الحقيقية. المخرجات هي فرق: أي الاستدعاءات المسموح بها سابقًا سترفض الآن، وأي الاستدعاءات المرفوضة سابقًا ستسمح الآن. هذا الفرق قابل للمراجعة من قبل الأشخاص أنفسهم الذين يراجعون السياسة، ويحول تغيير السياسة من فعل حكم إلى فعل قياس. كما يكشف الحالات التي لم يتوقعها أحد، وهي المكان الذي تعيش فيه انحدارات السياسة عادةً.
هذا هو الفرق العملي بين الرصد والحوكمة. الرصد ينتج سجلًا لما حدث. الحوكمة تنتج حدًا يقيّد ما يمكن أن يحدث، بالإضافة إلى سجل لقرارات الحد يمكن التحقق منه بشكل مستقل. الأول ضروري لتشغيل نظام. الثاني ضروري لتفويض السلطة إليه.
ما يعنيه هذا لتصميم النظام
تعامل مع حد الأداة كمستوى التحكم. ضع مُقيّم السياسة خارج متناول النموذج. اجعل المخطط خط الدفاع الأول ودع الاستدعاءات المشوهة تفشل مغلقة. أصدر قرارات موقعة لكلا النتيجتين واحتفظ بإصدار السياسة ملحقًا. أعد تشغيل السياسات المرشحة مقابل الحركة المسجلة قبل أن تصل إلى الإنتاج.
لا شيء من هذا يستبدل الرصد. تبقى التتبعات والمقاييس ولوحات المعلومات هي كيفية فهم النظام وتحسينه. ما يتغير هو الترتيب: الحد يقرر، والسجل يثبت، ولوحة المعلومات تشرح. النظام المحكوم بهذه الطريقة لا يعتمد على اختيار النموذج الصحيح. بل يعتمد على عدم قدرة النموذج على اختيار غير ذلك.