跳转到主要内容

OpenAI、Anthropic、Meta 与 Google 在新协议中拒绝为 AI 安全作出保证

Behzat AIai-safetyai-regulationagentic-aillm-agentsgovernance
均匀光照下电路板的微距照片,可见走线、焊点与表面贴装元件。

根据对该协议的报道,来自四家前沿实验室——OpenAI、Anthropic、Meta 与 Google——的一份联合承诺未给出 AI 安全保证。这一结果被定性为自愿自我监管,而非具有约束力的保证。该协议出台之际,外界正再次呼吁联邦层面的 AI 监管与独立审计。

Close-up of three alkaline batteries on a white surface

对于构建 LLM agent 与多 agent 集群的团队而言,实际后果是缺少一条可强制执行的基线。自愿承诺并未建立一条共同的安全底线,agent 构建者在界定自主性级别、工具权限、升级路径或责任边界时无法援引该底线。因此,每一Close-up of a rusty, corroded metal plate with a textured surfacercuit-board-macro-1cdd9e-a76be9.jpg)

从报道中仍不清楚的是:该承诺的具体范围、是否附带任何审计或报告机制,以及签署方打算如何处理违规情况。在这些细节公布之前,本工作室将前沿实验室的安全主张视为评估的输入,而非保证,并继续依据明确、可测试的内部标准来构建 agent 系统——涵盖工具使用限制、human-in-the-loop 检查点与故障遏制——从而使自主性与问责在系统层面得到定义,而不是从供应商的保证中假定。

让我们聊聊!