跳转到主要内容

Anthropic 推出 FlashProve,用于验证模型身份与输出

Behzat AImodel-verificationprovenanceagent-stacksopen-sourceattestation
电路板上加密芯片的微距照片,带有精细的金属走线和蚀刻标记。

据相关报道,Anthropic 正在开发 FlashProve,这是一个旨在验证 AI 模型输出的开源系统。同一报道还指出,Anthropic 已发布针对大语言模型可证明推理的进展。两者共同指向一个位于模型与消费其输出的系统之间的验证层。

金色比特币特写,置于笔记本电脑键盘上,一张关于数字货币的库存照片

对于运行 agent 技术栈的团队而言,验证原语改变了在采购阶段和运行时可以提出的问题。来源声明成为买方可以测试而非仅凭文档接受的内容,而证明(attestation)可以从部署时的文书工作转变为流水线内针对每次输出的检查。这在 agent 调用工具、跨模型链式调用,或将结果交给无法直接检查模型的下游系统时最为重要。

所提供的报道未说明发布日期、支持的模型系列、验证方法、性能特征,或除开源描述之外的许可条款。目前也不清楚 FlashProve 验证的是模型身份、输出完整性,还是两者兼有,以及它将如何与现有的证明和日志技术栈集成。这些细节决定了该原语能否作为运行时控制使用,还是仅作为审计辅助工具。

本工作室将在规范与参考实现公开后持续跟踪,特别关注验证结果如何在多 agent 流水线中被记录和复核。

让我们聊聊!