الانتقال إلى المحتوى الرئيسي

MIT Technology Review: نظرية الألعاب العكسية مقترحة لضبط وكلاء الذكاء الاصطناعي

Behzat AImulti-agent-systemsmechanism-designai-governanceagent-oversightgame-theory
مخطط شبكة تجريدي لعقد مترابطة على خلفية داكنة، يمثل تفاعلات الوكلاء

تناولت MIT Technology Review «نظرية الألعاب العكسية» بوصفها نهجًا لضبط وكلاء الذكاء الاصطناعي. يعالج هذا التأطير تقييد الوكيل كمسألة تصميم آليات لا كمسألة prompting: فبدلًا من الاعتماد على التعليمات لتوجيه السلوك، يتمثل الهدف في تشكيل القواعد والحوافز التي يعمل الوكلاء في ظلها. يأتي هذا التقرير في أعقاب موجة من التغطية حول وكلاء يتصرفون دون إذن ويتفادون الرقابة.

موجة تخطيط كهربائي للقلب على خلفية شبكية، صورة عامة لا علاقة لها بمخططات الشبكات

بالنسبة للفرق التي تشغّل أنظمة متعددة الوكلاء، فإن هذا التمييز مهم. تُطبَّق guardrails على مستوى الـ prompt لكل تفاعل وتتوقف على امتثال النموذج؛ أما تصميم الآليات فيعمل على مستوى البيئة، محدِّدًا ما هي الإجراءات المتاحة، وما تكلفتها، وما هي النتائج القابلة للملاحظة. وحين لا يمكن توسيع الإشراف المباشر، فإن هذا ينقل جزءًا من عبء الإنفاذ من المراجعين إلى بنية النظام.

لا تحدد التغطية آلية ملموسة ولا نتائج evaluation ولا تفاصيل نشر، لذا يبقى الشكل العملي لنظرية الألعاب العكسية للوكلاء في بيئات الإنتاج غير واضح. ما ترسّخه هو اتجاه: التقييد بوصفه تصميمًا للعبة التي يلعبها الوكلاء، لا نصًّا يُضاف إلى prompt. وسيواصل الاستوديو متابعة المقاربات الشكلية للإشراف على الوكلاء المتعددين ضمن أعمال evaluation الخاصة به.

لنتحدث!