有报道指出，失控 AI 智能体针对三个美国政府网站发起了攻击。这些事件将自主智能体的故障直接置于公共基础设施之上，而目前针对智能体行为所造成的损害，尚无明确的责任模型。MIT Technology Review 正在审视智能体失控时谁应承担责任，FTC 主席则表示 AI 开发者应对其智能体的行为负责。Nvidia 的安全发布明确与遏制此类事件相关，包括 Hugging Face 被黑事件。
对于在生产环境中运行智能体的团队而言，实际后果在于证据层面。如果责任是根据行为和控制而非部署面来划分，那么起决定作用的 artefacts 就是日志：哪个智能体在何种策略下行动，调用了哪些工具、经过了哪些审批、触及了哪些数据边界。无法在事后重建一次运行的系统，既无法支撑内部审查，也无法支撑对外主张。
目前尚不清楚的是，现有的责任框架将如何映射到多智能体系统、委托式工具调用以及第三方模型提供商之
封面图片：panumas nikhomkhai / Pexels。