跳转到主要内容

OpenAI 与 NASK 在路由器试点后签署 AI 安全研究协议

Behzat AIai-safetyagent-securityprocurementauditsrouter-security
网络路由器特写,显示状态 LED 和已连接线缆的以太网端口

OpenAI 与波兰 NASK 研究所已签署一项涵盖 AI 安全与保障研究的合作协议。报道称,在协议签署前,7 月的一次试点发现了六个路由器缺陷,且该协议不仅限于模型访问,还延伸至联合研究工作。这一安排紧随对 OpenAI 为期三周的现场审计,该审计报告了安全监控方面的缺口。

插入网络交换机的以太网线缆特写,库存照片

路由器方面的发现是运营层面真正值得关注的部分。路由器位于模型与其被允许访问的工具、服务和网络之间的边界上,这使其成为一个面向 agent 的暴露面,而非模型质量问题。审计这一暴露面意味着枚举暴露的端点、检查请求如何被认证和约束,以及测试当指令与配置出现分歧时 agent 能触及什么。试点中发现六个缺陷是一项可处理、具体的工作项——这类发现来自暴露面枚举,而非对 prompt 的红队测试。

对于采购或部署 agent 系统的团队而言,第三方安全协作正从锦上添花转变为评估与采购要求。买家越来越多地询问:谁审计了边界、审计范围包含什么、以及发现的问题是否在部署前得到修复。就所提供的报道而言,NASK 协议并未明确范围、时间表或公开成果;这些细节仍不清楚。清楚的是方向:对面向 agent 的基础设施进行独立审计,正成为系统评估方式的一部分,而非模型基准测试的附属事项。

让我们聊聊!