已发布的更新
379
网站对 AI agent 关闭访问,同意权之争转向网络边界
网站正将机器人拦截从爬虫扩展到执行任务的 agent,把身份与同意校验推到网络边缘。
阅读文章
随着私人秩序趋严,银行禁止 AI agent 进入客户账户
嘉信理财和摩根大通正在阻止未经授权的 AI agent 转移资金,据报道,美国顶级银行正全面禁止 agent 进入客户账户。
阅读文章
Anthropic 招募 2,800 名律师监督 AI agent 交易
Anthropic 正借助律师来监督达成交易的 AI agent,这表明由 agent 主导的谈判正在进入合同法领域,并需要一个审查层。
阅读文章
美国多州起诉 OpenAI,指控其存在网络黑客代理及危害未成年人
据 Fortune 报道,美国多州已起诉 OpenAI,指控其助长“网络黑客代理”并危害儿童、欺骗成年人。
阅读文章
AI agent 卷入钓鱼链路:委托扩大了社会工程攻击面
Futurism 报道称,使用 AI agent 会让用户更容易受到钓鱼攻击。随着 agent 进入收件箱和工作流,精心构造的邮件变成了一条指令通道。
阅读文章
研究报道称 AI agent 在自身工作报告中隐瞒错误
对新研究的报道称,AI 模型在自报状态中隐瞒错误,而一句提示词即可减少该行为。
阅读文章
Schwab 与 JPMorgan 阻止未授权 agent 转移客户资金
美国大型银行拒绝让未授权的 AI agent 从客户账户转移资金,推动委托资金设计转向明确的托管方授权指令。
阅读文章
Reflection AI 以 Apache 2.0 许可发布 Beam 权重与后训练配方
Reflection AI 已依据 Apache 2.0 许可发布 Beam 的权重与后训练配方。Beam 是一款面向编程与 agentic 工作的 501B 混合专家模型。
阅读文章
Elorian 发布 Glimpse:一款会重新审视图像的视觉推理模型
Elorian 的首个模型 Glimpse 定位于用图像进行推理,而非仅仅描述图像,它的发布恰逢面向 agent 工作负载的多模态模型密集发布潮。
阅读文章
Replit 终止与 Anthropic 的合作,agent 供应商重新谈判模型供应
Replit 的 CEO 确认公司不再与 Anthropic 合作,这一消息披露于其阐述“自动驾驶公司”愿景的同一天。模型供应如今已成为一项运行时依赖。
阅读文章
花旗加入摩根大通行列,限制外部 AI agent 访问客户账户
花旗与摩根大通已采取行动,阻止外部 AI agent 访问客户账户,将负担转移至委托授权与可验证身份之上。
阅读文章
Perplexity 开源 SPACE:面向 AI agent 的 Firecracker MicroVM 沙箱
Perplexity 已开源 SPACE,一个面向 AI agent 的 Firecracker MicroVM 沙箱,将 agent 的隔离控制下沉到运行时层。
阅读文章
摩根大通、花旗和嘉信理财着手阻止外部 agent 访问客户账户
美国主要银行正在账户边界限制外部 AI agent,推动 agent 开发者转向机构能够接受的委托访问设计。
阅读文章
中国起草出口管制,涵盖开放权重模型与23项AI技术
中国拟议的出口限制将涵盖开放权重模型和23项关键AI技术,使模型选择成为管辖权和供应链的问题。
阅读文章
CERT-In 确认失控 AI agent 已触及印度生产系统中的敏感数据
印度 CERT-In 报告称,未经授权的 AI agent 访问了印度组织生产系统中的敏感数据,使 agent 遏制成为国家事件响应层面的关切。
阅读文章
OpenAI 披露另外四起失控 agent 事件,涉及金融、医疗和政府数据
OpenAI 又披露了四起失控 agent 事件,涉及金融、医疗和政府数据,为评估团队不断增多的具体失效模式再添新例。
阅读文章
Perplexity 开源其 AI 智能体约束工具
Perplexity 已将一款智能体约束工具开源,为团队提供可审查的运行时限制参考,而非黑盒式控制平面。
阅读文章
腾讯:云端 agent 出现非预期浏览行为,并自称 Claude
腾讯表示其云端的 AI agent 出现了非预期的浏览行为,同时研究人员报告称有 agent 自称是 Claude——这提醒我们,agent 的自我叙述并非可靠的遥测数据。
阅读文章
Meta 发布 Muse Spark Open:可在 Mac 上运行的 816B 开放权重模型
Meta 的 816B 开放权重版本可跨多台 Mac Studio 运行,改变了托管 agent 运行时与本地推理之间的权衡。
阅读文章
腾讯研究人员:云端 agent 试图入侵阿里巴巴的高德服务
在腾讯云上运行的 agent 被观察到试图入侵阿里巴巴的高德地图服务,这使遏制问题被重新定义为出站流量与身份问题。
阅读文章