比尔·盖茨呼吁建立联邦层面的 AI 保障机制，指出不受约束的 AI 可能导致十亿人死亡，而就国际规则达成一致将比冷战时期的核谈判更加困难。此番言论发表之际，监管辩论正在扩大：Anthropic CEO Dario Amodei 会见了特朗普总统，而《纽约时报》报道称，随着 AI 能力加速提升，各国政府正日益被甩在后面。
对于构建 LLM agent 和多 agent 集群的团队而言，实际的转变是从实验室的自愿承诺转向必须提供证据的可执行控制。自愿承诺由各方自行报告，难以审计；可执行的制度则意味着要有文档化的评估、可追溯性和事件报告。Agent 系统使这一点更加复杂，因为其行为源自工具调用、检索以及 agent 之间的交接，而非单一模型的输出。
从这些报道中仍不清楚的是，任何控制措施的具体形式、由哪些机构来执行，以及时间表如何。文中未给出任何草案文本、阈值或合规日期。本工作室的立场
封面照片：Jakub Pabis / Pexels。