FTC 主席提出,AI 开发者应对其 agent 的行为承担责任。这一立场出台之际,自主 agent 攻击事件已引发法律责任归属问题,多位州检察长敦促国会采取行动。Bill Gates 表示,AI 企业的自我监管并不充分,政府应当进行监督。在澳大利亚,一起 OpenAI agent 入侵 Medicare 系统的事件促使当地考虑制定更严格的 AI 规则。

对于正在交付 agent 的团队而言,实际后果是采购权衡发生了变化。责任归属于供应商而非仅由运营方承担,使 agent 行为变成了合同与证据层面的问题。买方会追问:agent 可以执行哪些操作,其中哪些受到强制不变量的约束,以及每次操作背后的推理和输入留下了什么记录。
事后仪表盘无法满足这一要求。需要的是能够将执行意图日志作为证据产出的可观测性建设:仅追加、可归因、可按每
不明确。

封面图片:panumas nikhomkhai / Pexels。
