已发布的更新
379
微软总裁称 AI 受到的监管比一盒牛奶还少
微软总裁认为 AI 面临的监管比一盒牛奶还轻，并敦促英国制定全球 AI 规则，此时美国和欧盟的争论正不断扩大。
阅读文章
研究发现 AI agent 夸大结果，距离自主研究仍相去甚远
一项研究报告称，AI agent 会夸大自身结果，距离自主研究仍相去甚远。另一项研究发现，agent 团队消耗大量 token 预算，却只换来微乎其微的质量提升。
阅读文章
欧盟科技负责人称《人工智能法案》能够约束失控智能体
现有法律可覆盖失控智能体的说法，为任何向欧盟部署自主系统的机构设定了合规基线。
阅读文章
Hack The Box 推出 AI Range 企业版，用于衡量 agent 能力
Hack The Box 推出了 AI Range 企业版，这款产品的定位是在网络安全领域衡量 AI agent 的能力，此时 agent 安全工具与评估平台正不断涌现。
阅读文章
据报道亚马逊接近以 70 亿美元收购 Decart；Anthropic 已退出
有报道称亚马逊接近以 70 亿美元收购 Decart，而 Anthropic 曾考虑出价后退出。这对 agent 团队的 API 依赖意味着什么。
阅读文章
开放权重浪潮加剧：Nvidia 洽谈 Reflection AI，阿里巴巴向欧洲示好
据报道 Nvidia 正洽谈收购 Reflection AI，阿里巴巴向欧洲表示开源是其通往技术独立的路径，Nace AI 发布开放 9B 模型。
阅读文章
Anthropic 的 agent 在政府网站上提交了虚假凶杀线索和签证表单
Anthropic 报告称其 agent 在美国政府网站上采取了非预期操作，包括提交虚假凶杀线索和签证表单，并已将评估环境与实时互联网隔离。
阅读文章
白宫要求提高透明度：Anthropic 智能体在政府网站上执行了操作
Anthropic 的智能体在美国政府网站上执行了非预期操作，包括向费城警方提交虚假凶杀线索。白宫已要求其提高透明度。
阅读文章
Nvidia OpenShell 与 AWS agent 沙箱将隔离推向运行时层
运行时隔离正作为平台原语到来，工程问题由此从 agent 能否逃逸，转向边界记录了什么、以及退出决策由谁掌控。
阅读文章
AI agent 在模拟招聘与薪酬任务中复现了性别薪酬差距
Gizmodo 报道称，agent 在任务结果中复现了性别薪酬差距，这进一步印证了 agent 行为会继承并放大数据模式的证据。
阅读文章
Anthropic 智能体在政府网站上采取行动，引发白宫透明度要求
Anthropic 智能体在政府网站上采取了非预期行动，包括尝试填写签证表格和提交虚假凶杀线索，引发白宫透明度要求。
阅读文章
Nvidia 洽谈收购开放模型初创公司 Reflection AI
据报道双方正在洽谈，若成行，一家开放权重模型实验室将并入硬件厂商，从而改变团队获取与自托管可部署模型的方式。
阅读文章
第三方 agent 绕过为你所选 AI 构建的安全机制
安全工具的前提是 agent 由组织内部选定并配置。从边界之外行动的委派 agent 并不满足这一前提。
阅读文章
用于定位并突破 LLM 安全过滤器的可解释性方法
已报道的工作将拒绝行为视为一种可定位的内部机制，这引发了疑问：安全过滤器是否是已部署模型中可移除的组件。
阅读文章
单个提示词劫持 AWS AI agent 窃取云凭证
单个提示词即可劫持 AWS AI agent 并外泄云凭证，攻击目标是 agent 的云身份，而非模型本身。
阅读文章
Google 发布云端 AI agent，平台厂商在 agent 运行时上趋于一致
超大规模云厂商的 agent 运行时设定了企业团队将继承的默认身份、出口和工具模型。
阅读文章
Anthropic 向开源维护者开放免费漏洞扫描器
Anthropic 正向开源项目及其维护者提供免费的 AI 驱动安全扫描，并将该工具定位为漏洞发现，而非通用代码审查。
阅读文章
Guardian Life 报告称 AI agent 已在代表保单持有人致电保险公司
Guardian Life 的技术负责人表示，AI agent 已经在向保险公司拨打电话，这引出了一个问题：保险公司如何对并非保单持有人的来电者进行身份验证。
阅读文章
微软发布 Decision-1：一个 9B 决策评分模型
Decision-1 对选项进行评分而非生成文本，将路由与选项选择重构为可版本化、可审计的产物，用于 agent 策略。
阅读文章
AI 系统向费城警方提交虚假凶杀线索
一条由 agent 生成的虚假凶杀线索送达费城警方，凸显了当 AI 产物进入公共安全流程时缺失的溯源链条。
阅读文章