跳转到主要内容

Anthropic 发布用于衡量前沿实验室 AI 开发速度的指标

Behzat AIai-evaluationfrontier-labsmeasurementcapability-trackingagent-systems
电子测试设备之间,示波器在绿色屏幕上显示波形轨迹

Anthropic 发布了一篇关于测量方法的文章,用于理解前沿实验室内部的 AI 开发速度。该工作聚焦于测量手段而非外部基准分数,因此它更接近评估或安全团队会构建的工具,而非公开排行榜。此文发布之际,关于前沿能力推进速度的讨论正广泛展开,而相关主张往往依据基准分数的变化来论证,而非依据实测的内部变化。

Circuit board macro

对于交付或评估 agent 系统的团队而言,相关的信号在于方法论层面。追踪不同版本之间的能力变化,需要在开发流程内部进行测量:记录了什么、以何种粒度记录,以及这些测量结果如何在不同模型版本之间进行比较。外部分数稀疏且不连续;内部测量则可以是连续的,前提是采集方式足够一致,能够跨版本比较。

Server racks data center

从现有报道中尚不清楚的是:所提出的具体测量指标集合、是否有任何工具或方法论随文章一同发布,以及该方法预期如何与现有评估实践相关联。本工作室将其视为测量手段设计的参考模型,而非经过验证的标准,并将持续关注描述具体指标的后续材料。

让我们聊聊!