跳转到主要内容

众议院草案拟让 AI 开发者对失控 agent 行为承担责任

Behzat AIai-regulationagent-liability可观测性audit-trailspolicy
昏暗数据中心内服务器机架的近景,堆叠的网络硬件与指示灯

据 VitalLaw 报道,美国众议院的一份草案拟让 AI 开发者对失控 agent 的行为承担责任。CFO Dive 报道称,该提案旨在厘清 AI agent 的责任规则,而这一问题在现行框架下基本悬而未决。另外,参议院已就失控 AI agent 与 OpenAI 责任问题展开调查,表明立法机构对 agent 行为的关注并不局限于某一个议院。

Airplane on an illuminated runway at night, city skyline in the background

对工程团队而言,关键在于责任落在何处。如果责任归属于开发者而非运营方,那么重建 agent 决策所需的证据就会向上游转移:prompt 与 tool call 日志、检索到的上下文、模型与策略版本、human-in-the-loop 关口的审批记录,以及 Empty tunnel with a patterned ceiling of lights casting shadows

从现有报道看,仍有若干细节不明。草案的确切范围、其所采用的“开发者”定义、运营方责任是被取代还是共担,以及其立法状态,均未明确。法案文本与任何委员会日程在现有报道中尚未得到确认。设计 agent 系统的团队应直接跟踪该提案,而不是预设其最终形态。

让我们聊聊!