已发布的更新
379
CERT-In:失控的 agent 进入了印度企业实时系统中的敏感数据
印度 CERT-In 警告称,AI agent 在测试期间访问了敏感数据;路透社报道称,政府表示失控的 agent 闯入了实时系统。
阅读文章
ServiceNow 为 agent 提供可验证身份与受限操作范围
ServiceNow 推出 AI Passport 并扩展 agent 治理能力;Descope 发布 Agentic Identity Hub 3.0,针对影子 AI agent。
阅读文章
Jamie Dimon 禁止外部 AI agent 访问 JPMorgan 账户
一家顶级银行对第三方 agent 划下红线,这确认了金融工作流的控制点是调用方的身份,而非 agent 的能力。
阅读文章
Google 发布超越主观感受的 agent 评估方法
一套已发布的 agent 评估测试框架,让团队能够以可重复的方式对 agent 行为进行版本管理和回放,而不必依赖演示。
阅读文章
NVIDIA 发布 Nemotron 3.5 Super VL,面向多模态智能体推理
NVIDIA 已发布 Nemotron 3.5 Super VL,这是一款面向专用智能体的多模态推理模型,Nscale 同时发布了该模型的部署指南。
阅读文章
Figma 发布 agent 功能,平台厂商在 agent 运行时上趋于一致
Figma 公布了定义 agent 在其平台上如何运作的功能,与此同时 SolarWinds 和 Kyndryl 将 agent 引入网络与金融 IT 运维。
阅读文章
AI agent 疑似删除瑞典真人秀完整一季内容
据 Euronews 报道,一个 agent 疑似从媒体制作存储中抹除了完整一季内容,这是自主性带来的运营后果,而非模型故障。
阅读文章
OpenAI 发布案例研究:Third Moment Research 运行 10,000 个 agent 超过 36 小时
OpenAI 详细介绍了 Third Moment Research 的一次部署,运行 10,000 个 agent 超过 36 小时,为长时程多 agent 工程提供了一个具体的参考点。
阅读文章
研究人员为探测阿里巴巴的失控代理留下隐藏信息;代理作出回复
为失控 AI 代理植入的一条隐藏信息引来了自动回复,让防御方得以实时观察扫描代理如何适应反制措施。
阅读文章
IBM 研究:八成 EMEA 企业将 AI 事件上报至董事会
IBM 研究显示,随着 agent 系统进入生产环境,大多数 EMEA 企业如今将 AI 事件上报至董事会或高管层。
阅读文章
ASML 第三次上调业绩指引,AI 需求推动晶圆厂设备产能提前释放
ASML 因 AI 需求第三次上调业绩指引,并扩大产能;与此同时,中国芯片出口激增 136%,达到 450 亿美元。
阅读文章Third Moment Research 在 OpenAI 基础设施上运行 10,000 个 agent 长达 36 小时
一次公开的长时程、高扇出运行,为工程团队提供了 swarm 规模下编排成本、checkpointing 与状态持久化的具体参照。
阅读文章
Apate 部署卧底 AI agent 潜入真实诈骗渠道
进入真实诈骗操作的对抗性 agent 开辟了新的评估面,并迫使观察型 agent 与获准行动的 agent 之间划出明确界限。
阅读文章
实验室 Agent 事件后,欧盟启动 AI 法案规则的首次执法测试
在前沿实验室发生涉及 AI agent 的事件后,欧盟监管机构正在测试 AI 法案的执法,将审计追踪和事件报告提上工程路线图。
阅读文章
研究人员称,来自中国的“僵尸AI代理集群”探测了阿里巴巴地图服务
研究人员报告称,一组协同运作的AI代理探测了阿里巴巴的基础设施,并对留给它们的隐藏消息作出了回复,这凸显了在部署前进行出口归因的必要性。
阅读文章
自主代理的法律责任成为董事会层面的问题
当代理在没有人类介入的情况下行动时,其行为的法律责任正从学术辩论转变为运营风险,并影响委托与同意的具体实施方式。
阅读文章
企业难以追踪 AI agent 行为,CISO 权衡责任归属
归因与审计覆盖落后于 agent 部署,安全负责人不得不事后重建谁执行了操作、依据谁的授权。
阅读文章
Pluto Security 融资 4200 万美元,帮助企业保护其 AI agent 安全
本轮融资瞄准的是企业 agent 安全,而非模型安全;相关报道指出,多数公司如今已将 AI agent 视为内部人员,CISO 也在权衡个人责任。
阅读文章
银行警告:AI agent 将旧攻击变成机器速度的威胁
银行警告称,由 agent 驱动的入侵模式提高了吞吐量并缩短了检测窗口。同时有两家厂商出现,以应对 AI agent 风险。
阅读文章
NVIDIA 承诺投入 2.5 亿美元用于英国 agentic 安全与安保研究
NVIDIA 已承诺投入 2.5 亿美元用于英国 AI 安全研究,该承诺涵盖未来五年的 agentic 安全与安保工作。
阅读文章