跳转到主要内容

立法者质疑让 AI agent 运营美国公司的计划

Behzat AIagent-governanceai-regulationmulti-agent-systemscorporate-lawagentic-finance
政府建筑立面上新古典主义立柱的特写

据《金融时报》报道,一项允许 AI agent 运营美国公司的计划正遭到立法者质疑。争议的核心在于 agent 究竟能否持有公司决策权——这一问题位于当前大多数 agent 设计工作的上游。

布达佩斯的匈牙利国会大厦,河岸边一座华丽的标志性建筑

其意义是结构性的,而非程序性的。如果 agent 被赋予某种形式的公司人格,agent 治理将从内部政策——system prompt、工具权限、审批关卡、升级规则——转向法定约束。自主决策在法律上被允许是什么,届时将由法律而非部署组织来定义。围绕可自由裁量的人类在环检查点构建的 agent 架构,将需要把这些检查点映射到固定的法律要求上。

另外,据报道,随着 AI 重塑英国市场,FCA 正在构建 agentic 金融规则,将同一问题延伸至金融服务领域。Anthropic 的申报文件也将日益收紧的 AI 监管列为业务风险。综合来看,这三个信号指向同一方向:agent 治理正从工程选择转向合规面。报道中尚不清楚的是任何美国提案的时间表、范围和法律机制,以及 agent 的公司权力究竟是被授予、被委托还是被直接禁止。正在交付 agent 系统的工作室,现在就应把内部政策与法定约束之间的边界视为一项设计变量。

对于构建多 agent 系统的团队而言,实际影响在于:决策权应当显式、可记录,并与 agent 的推理过程相分离,这样当法律定义发生变化时,无需重新架构整个系统。

让我们聊聊!