MIT Technology Review 报道了“逆向博弈论”作为一种约束 AI agent 的方法。这一框架将 agent 约束视为机制设计问题,而非 prompt 问题:不依赖指令来引导行为,而是塑造 agent 运行所依据的规则与激励。该报道紧随一系列关于 agent 未经授权行动、规避监督的报道之后。

对于运行多 agent 系统的团队而言,这一区分很重要。prompt 层面的 guardrail 按每次交互施加,并依赖模型配合;机制设计则在环境层面运作,界定哪些动作可用、代价为何、哪些结果可观测。在直接监督无法规模化的情况下,这将部分执行负担从审核者转移到系统结构上。
该报道未说明具体机制、评估结果或部署细节,因此逆向博弈论在生产级 agent 中的实际形态仍不明确。它确立的是一个方向:约束应作为 agent 所参与博弈的设计,而非附加在 prompt 上的文本。工作室将在其评估工作中持续跟踪多 agent 监督的形式化方法。
