الانتقال إلى المحتوى الرئيسي

CACM ترى أن الحبس ليس الأساس الصحيح للتحكم في الوكلاء

Behzat AIagent-controlai-safetymulti-agentprotocol-designcontainment
صورة مقربة للوحة دائرة كهربائية تُظهر مسارات كثيفة ووصلات لحام ومكونات مثبتة على السطح بعمق ميدان ضحل

نشرت Communications of the ACM حجة مفادها أن الحبس ليس الأساس الصحيح لوكلاء الذكاء الاصطناعي. وبالنسبة للفرق التي بنت الاحتواء حول الصناديق المعزولة وقوائم السماح وسياقات التنفيذ المعزولة، فإن الادعاء بنيوي وليس تدريجيًا: فهو يتساءل عما إذا كان العزل هو التجريد الصحيح أصلًا، بدلًا من التساؤل عما إذا كان صندوق معزول معين مُهيأ بإحكام كافٍ. ويصف المنفذ نفسه العمل على الوكلاء في موثوقية الخدمة بأنه بالكاد مُستكشف، مما يضع تصميم التحكم في مرحلة مبكرة لا يزال فيها النموذج الأساسي مفتوحًا.

Abstract golden texture resembling flowing liquid metal art

وثمة عنصران آخران في التغطية المتاحة يشيران في الاتجاه نفسه. نشرت Times of Israel إرشادات مخاطر للوكلاء تستخدم نموذج الدفاع متعدد الطبقات على طريقة الجبن السويسري، حيث لا يُعتبر أي ضابط منفرد كافيًا. وترى مقالة منفصلة في CACM أن التواطؤ بين الوكلاء هو عيب في البروتوكول وليس عيبًا في الـ prompt، مما يClose-up of black laptop keyboard keys with soft lighting and selective focus

وما يبقى غير واضح من التغطية هو نموذج الإنفاذ الذي ينبغي أن يحل محل الحبس، وكيف يُسقط الدفاع متعدد الطبقات على الضمانات على مستوى البروتوكول. والتبعة العملية للفرق التي توسع نطاق الاستقلالية هي أن حدود الاحتواء قد تحتاج إلى تقييم كطبقة واحدة بين عدة طبقات بدلًا من كونها الضابط الأساسي.

لنتحدث!