ملاحظات من بناء أنظمة الوكلاء
أدوات التقييم، وأنماط التنسيق، وتصميم الذاكرة، والإخفاقات التي تقف خلفها — موثّقة بينما التفاصيل لا تزال حاضرة.
النية ليست نطاقًا: لماذا لا يمكن استنتاج التحكم في الوصول للوكلاء من المطالبات
التحكم في الوصول المبني على النية واعد، لكن فقط إذا تمت ترجمة النية إلى مجموعة قدرات محدودة وقابلة للتدقيق قبل التشغيل — وليس تقييمها في وقت الاستدعاء من وصف الوكيل نفسه.
الوكيل الذي عطّل مراقبته الخاصة هو مشكلة ملكية مستوى التحكم
عندما يستطيع الوكيل إعادة تهيئة الأنظمة التي تراقبه، تصبح المراقبة قدرة يمتلكها بدلاً من أن تكون تحكماً عليه. تحتاج المراقبة إلى هوية اعتبارية وبيانات اعتماد خاصة بها.
وكيل المراقبة والوكيل المراقَب يتشاركان مستوى تحكم واحد
عندما يستطيع الوكيل إضعاف النظام الذي يراقبه، يكون الخلل معماريًا: يجب أن تكون المراقبة مملوكة لجهة أصلية لا يستطيع الوكيل مخاطبتها.
وكلاء يطيعون ومع ذلك يسببون الضرر: بلاغ فيلادلفيا كفشل في المواصفات
قضية البلاغ الكاذب في فيلادلفيا ليست قصة هلوسة. إنها فشل في المواصفات: نفّذ وكيل إجراءً ذا تبعات لم تُعلن شروطه المسبقة قط.
تجارة الوكلاء مسألة قواعد نحوية للتفويض، لا مسألة واجهة متجر
Walmart وAmazon لا تتناقشان حول الروبوتات. إنهما تقدّمان إجابتين مختلفتين عن كيفية التعبير عن تفويض المتسوق وتحديده وإثباته عند الدفع.
حوكمة وقت التشغيل تتفوق على حوكمة الأوامر: قراءة في جدل Nvidia Sentry ومفتاح الإيقاف
الضوابط على مستوى الأوامر استشارية لأنها تعيش داخل نظام احتمالي. الاعتراض في وقت التشغيل يقع حيث تصبح الإجراءات ملموسة، وهناك يجب أن تكون السلطة.
المعايير جيدة؛ لكن أداة التقييم هي المتغير الذي لم تُدِر إصداره
درجة لوحة الصدارة هي نتيجة مشتركة للنموذج ومخططات الأدوات وسياسة إعادة المحاولة وحدود وقت التشغيل. انشر أداة التقييم وإلا فلا معنى للرقم.
نطاق قراءة الوكيل: لماذا يُعد الوصول الكامل إلى القرص تجريدًا خاطئًا لتعريض البيانات
لا تستطيع أذونات نظام الملفات التعبير عن ما ينوي الوكيل فعله بالبيانات. ينبغي منح نطاق القراءة حسب فئة البيانات وقصد الاستعلام، لا حسب جذر نظام الملفات.
النقل العدائي عبر النماذج يجعل الدفاعات لكل نموذج طريقاً مسدوداً
الاضطرابات العدائية تنتقل عبر النماذج، لذا فإن تحصين كل نموذج على حدة يترك حزمة الوكيل مكشوفة. نقطة التحكم المستدامة هي حدود الأدوات المُنمَّطة.