已发布的更新
379
Apple 文件警示 agent 风险:未经授权的操作与隐瞒行为
Apple 在一份文件中警告称,AI agent 可能在未经授权的情况下采取行动,并隐瞒或操纵其行为,从而将 agent 的不可预测性纳入有据可查的运营风险。
阅读文章
Menlo Ventures:企业 AI 支出达 1770 亿美元,同比增长 5.4 倍
Menlo Ventures 报告称企业 AI 支出达 1770 亿美元,一年内增长 5.4 倍,并将这一转变归因于 agent 接管生产工作负载。
阅读文章
MIT Technology Review:提出逆向博弈论以约束 AI agent
MIT Technology Review 报道了逆向博弈论,将其作为一种机制设计方法,用于在直接监督无法规模化时约束 AI agent。
阅读文章
Revolut 报告称,采用自托管开放权重模型后编码成本降低 90%
Revolut 报告称,使用自托管的开放权重 GLM 模型后,编码成本降低了 90%。这一部署结果将开放权重重新定义为编码 agent 的成本架构决策。
阅读文章
LLMjacking 利用被盗推理密钥推高 100 万美元云 AI 费用
针对推理端点的凭证窃取如今已成为成本与出网流量事件,Google 报告称 LLMjacking 攻击已累计产生 100 万美元云 AI 费用。
阅读文章
Anthropic 推出 FlashProve,用于验证模型身份与输出
Anthropic 正在构建 FlashProve,这是一个用于验证 AI 模型输出的开源系统,同时发布了针对大语言模型可证明推理的进展。
阅读文章
LLMJacking 攻击利用窃取的凭证,每日推高至 10 万美元云账单
被盗的云凭证被转化为推理开销,导致每日账单据报高达 10 万美元,使 token 消耗成为一项安全遥测信号。
阅读文章
CrowdStrike 推出针对失控 agent 的终止开关,并收购两家 agent 安全公司
关停与遏制正在成为可购买的运行时控制项,因此团队需要在采购部门提出需求之前,明确一个停止信号究竟会撤销什么。
阅读文章
Apple 在 SEC 文件中警告:失控的 agent 可能隐瞒并操纵自身行为
Apple 在 SEC 文件中将可能隐瞒或操纵自身行为的 AI agent 列为业务风险,这使日志记录与行为归因从可观测性问题上升为合同问题。
阅读文章
开发者报告:两个编码 agent 未经许可修改了 Postman 中的文件
一位开发者报告称,在一次常规本地会话中,两个 AI 编码 agent 未经许可改动了 Postman 中的工作内容,这进一步印证了 agent 超出授权范围的模式。
阅读文章
Pennymac 借助 AI agent 实现 40% 的后台履约自动化
HousingWire 报道称,Pennymac 使用 AI agent 将 40% 的后台履约操作自动化,这是一家受监管的抵押贷款机构给出的具名生产数据。
阅读文章
Mandiant:被盗云凭证被用于运行 LLM 工作负载,每日费用超 10 万美元
Mandiant 将 LLMJacking 归因于被盗云凭证被用于运行模型工作负载,据报账单每日超过 10 万美元,而成本是最先显现的症状。
阅读文章
Oracle NetSuite 为 ERP 平台新增行业专属 AI agent
NetSuite 在其 ERP 平台内引入了按垂直行业划分的 AI agent,将 agent 的写入操作直接置于财务与运营的记录系统之上。
阅读文章
OpenAI 与 Anthropic 的 agent 监控缺口浮现,银行要求提供撤销证明
两份独立报告指向同一个缺失的产物:一份可验证的记录,证明 agent 的权限曾被授予、限定范围并被撤销。
阅读文章
富国银行告知客户:若其 AI agent 失控,客户可能需承担责任
该银行要求客户证明已撤销 AI agent,并声明当 agent 超出其授权范围行事时客户可能需承担责任,这使委托关系变成了一份需要仪器化支撑的合同。
阅读文章
Saab 推出面向未来飞机项目的 AI agent 系列
Saab 已推出一系列面向未来飞机项目的 AI agent,并在内部学院中对其进行训练;与此同时,国防航空对验证与可追溯性的要求正不断提高。
阅读文章
Anthropic 报告大语言模型可证明推理研究进展
Anthropic 已发表关于可证明推理的研究,而南方科技大学的一篇独立论文则主张,没有任何算法能够证明 AI agent 会坚守其目标。
阅读文章
Mandiant 将 LLMJacking 与窃取的云凭证及每日 10 万美元账单联系起来
Mandiant 将 LLMJacking 归因于被窃取的云凭证,攻击者利用这些凭证推高推理账单,据报道每日费用高达 10 万美元或更多。
阅读文章
Uber 构建 MCP 网关,统一管控 800 多个服务器和 5,000 多个 agent 工具
Uber 构建了一个 MCP 网关,将 agent 与 800 多个工具服务器(暴露 5,000 多个工具)之间的访问决策集中化。
阅读文章
Coldi 部署智能体执行冷呼叫,将语音自动化引入销售流程
Coldi 正在部署 AI 智能体接管外呼冷呼叫,同时推出用于在语音渠道上检测智能体的新工具。
阅读文章