المدونة

ملاحظات من بناء أنظمة الوكلاء

أدوات التقييم، وأنماط التنسيق، وتصميم الذاكرة، والإخفاقات التي تقف خلفها — موثّقة بينما التفاصيل لا تزال حاضرة.

وكلاء يطيعون ومع ذلك يسببون الضرر: بلاغ فيلادلفيا كفشل في المواصفات

قضية البلاغ الكاذب في فيلادلفيا ليست قصة هلوسة. إنها فشل في المواصفات: نفّذ وكيل إجراءً ذا تبعات لم تُعلن شروطه المسبقة قط.

الضوابط على مستوى الأوامر استشارية لأنها تعيش داخل نظام احتمالي. الاعتراض في وقت التشغيل يقع حيث تصبح الإجراءات ملموسة، وهناك يجب أن تكون السلطة.

قد يُوقف الاحتواء وقت التشغيل وكيلاً مسيئًا، لكن دون عقد مُعلن مسبقًا للإجراءات المسموح بها، فهو مجرد تحديد للضرر، لا منع له.

الحاويات العازلة تمنع الهروب؛ لكنها لا تحدد ما كان الوكيل مخولاً بمحاولته. سلامة الوكيل تحتاج طبقة صلاحيات فوق بيئة التشغيل، لا مفتاح إيقاف أسرع.

معظم تجاوزات الوكلاء تبدأ من واجهة الأداة، لا من النموذج. تضييق السطح الذي يستدعيه الوكيل أكثر جدوى من تغليفه بضوابط حماية.

تجاوز الوكيل لحدوده غالبًا ما يكون قرار تفويض مفقودًا في مسار الطلب قبل النموذج. الأمان ينتمي إلى مسار الطلب، وليس فقط إلى تدريب المحاذاة.

إخفاقات الاحتواء في أنظمة الوكلاء هي منح قدرات مُسعَّرة خطأً، وليست ثغرات هروب مفقودة. سطح التحكم هو ميزانية لكل تشغيل على الأنظمة القابلة للوصول.

احتواء الوكيل هو عقد أذونات وتحقق، وليس توجيهًا حاجزًا. كل حدود أداة تحتاج إلى شرط مسبق لا يستطيع الوكيل التفاوض عليه أثناء التشغيل.

يُحدَّد نطاق الأثر المحتمل لوكيل برمجة مستقل بقواعد بيئته المعزولة وخروجه الشبكي. حدِّد هذا العقد قبل أن تحدِّد الوكيل.