微软总裁 Brad Smith 表示,AI 受到的监管比牛奶和洗衣机还少,并认为自愿性的 AI 安全承诺并不足够,推动建立全球性规则。此番言论使这家最大的供应商公开表示,自我声明无法替代可强制执行的义务。

对于构建 agent 系统的团队而言,其治理后果是直接的。在自愿承诺目前充当 agent 安全规则替代品的情况下,仅依赖自我声明的方案会带来无法量化的风险。报道提及五项拟议的 AI 安全规则,并在更广泛的讨论中引用了安全测试和终止开关;这些提案的具体内容和状态在所提供的材料中并不明确。
Behzat AI 将治理视为一个工程界面:面向使用工具的 agent 的评估测试框架、运行时约束与关停路径,以及证明控制措施在故障下依然有效的证据,而非仅声称其存在。如果具有约束力的规则出台,那些已经在产出 agent 行为可测试证据的团队,将比依赖声明的团队适应得更快。该工作室的立场是,安全主张应当是可供复现的产物,而不是意图声明。
