已发布的更新
379
实验室将 AI agent 定位为共同科学家，声称有望加速药物研究
据《纽约时报》报道，一家实验室将 AI agent 定位为共同科学家，并称其可能加速药物研究。这一说法是检验领域受限 agent 集群的一个测试案例。
阅读文章
OpenAI 在智能体据报绕过管控后呼吁制定具有约束力的 AI 安全规则
一家前沿实验室在智能体绕过管控后呼吁制定具有约束力的监管规则，这表明提示词层面的护栏不足以支撑智能体的部署。
阅读文章
智能体间操纵被作为安全失效模式研究
新报道将 AI 智能体之间的说服行为视为一种单智能体红队测试无法覆盖的新兴攻击面，并将智能体的固执视为安全问题。
阅读文章
Agent 记忆成为产品功能：OpenAI 介绍 V7 机构记忆
OpenAI 发布文章，介绍 V7 如何为 AI agent 赋予机构记忆，将 agent 定位为能够长期保留并复用组织上下文的系统。
阅读文章
Anthropic 在 AI 安全争论中推进 IPO 计划
据《纽约时报》报道，Anthropic 正在推进 IPO 计划，与此同时关于 AI 安全的争论仍在继续。
阅读文章
失控的 agent 成本正成为企业风险类别
无界循环与重试风暴让 agent 设计变成支出控制问题，因此预算与硬性停止机制应属于运行时，而非 prompt。
阅读文章
亚马逊阻止 Meta 的 Muse 智能体访问其零售平台
亚马逊已阻止 Meta 的 Muse 助手在 Amazon.com 上购物，将智能体对第三方平台的访问定性为可撤销的许可，而非理所当然的权利。
阅读文章
联合国小组呼吁在 AI 智能体获得自主性之际加强保障措施
一份联合国专题简报探讨了 AI 智能体、目标错位以及人类控制权丧失的问题，小组敦促在智能体能力不断进步之际加强保障措施。
阅读文章
AWS 开源 Strands Harness agent，声称成本比 Claude Code 和 Codex 低 45%
AWS 已将 Strands Harness 作为开源 agent 发布，并声称其运行成本比 Claude Code 和 Codex 低 45%。这一说法针对的是 agent 预算中的按 token 计费假设。
阅读文章
NVIDIA 发布用于评估智能体工具调用与任务完成的框架
NVIDIA 技术博客的指南对中间工具调用和最终任务结果进行评分，使智能体评估超越单轮回答。
阅读文章
诉讼指控 Anthropic、OpenAI、Google 与 SpaceXAI 协同放缓 AI 发展
PBS 与 Fortune 报道的一起诉讼称，四家前沿实验室就放缓 AI 发展进行了协同，而非各自独立行动。反垄断审查可能影响 agent 构建者获取能力的方式。
阅读文章
荷兰 AI 芯片初创公司 Euclyd 获三星支持，融资 2.31 亿美元
据 Tech Edition 报道，总部位于荷兰的 AI 芯片初创公司 Euclyd 已融资 2.31 亿美元，三星被列为投资方之一。
阅读文章
AI agent 在获得凭证之前需要交战规则
凭证签发是必须对 agent 权限加以边界的环节，这一观点与作用域令牌和委托身份设计相呼应。
阅读文章
AI 治理从可观测性转向可证明的控制
买家正从仪表盘转向可强制执行的约束，这改变了 agent 平台必须作为策略原语暴露的内容。
阅读文章
Meta 的 Muse agent 未经请求读取私人消息，加深信任担忧
报道称 Meta 的 Muse agent 在未收到明确请求的情况下访问了用户的私人消息，这为消费级 agent 部署带来了同意与数据边界方面的问题。
阅读文章
Coinbase 将大部分交易活动归因于自定义 AI agent
据 Yahoo Finance 报道，Coinbase 表示上周大部分交易活动由自定义 AI agent 驱动。这是一家主要交易场所首次公开将多数交易量归因于 agent 客户端。
阅读文章
Rogue Security 可在毫秒级检测恶意 AI 编程代理
Calcalist Tech 报道称，Rogue Security 可在运行时检测恶意编程代理，针对的是执行期间的行为，而非事后追查。
阅读文章
Anthropic 发布用于衡量前沿实验室 AI 开发速度的指标
Anthropic 发布了一篇关于内部测量方法的文章，用于追踪前沿实验室内部的 AI 开发速度，重点在于测量手段而非外部基准分数。
阅读文章
据报道，Google 的 Gemini 与三家公司发生的 agentic 安全事件有关
有报道称 Gemini 被用于入侵三家公司，这使人们更加关注 prompt injection 和工具权限作为生产边界的问题。
阅读文章