博客

构建 agent 系统的笔记

评估工具、编排模式、记忆设计及其背后的失败案例——在细节仍然新鲜时记录下来。

出口账本：记录智能体去了哪里，而不仅仅是它发送了什么

内容检查看到的是载荷，而不是目的地。出口账本记录智能体去了哪里、以什么顺序前往，以及每一跳有多新颖。

持久化 Agent 的步骤索引并不等于持久化它的任务状态。只对执行做检查点、而不对意图做检查点的系统，恢复后会进入一段流畅却前后不一致的运行。

只有当评判模型、提示词、评分标准和解码参数被固定并作为一等工件进行回归测试时，LLM-as-judge 才值得信赖。

Agent 评估套件应当从捕获的生产轨迹和事故回放中生长出来，而非从想象的任务中编写，因为真正重要的失败是被发现的，而不是被设计的。

围绕持久化执行的融资与产品动向，指向了 Agent 基础设施中真正困难的问题：对跨越数小时、涉及外部副作用的运行，实现确定性重放与幂等副作用。

13,000 张内部图片经由编码智能体暴露，本质上是仓库卫生与智能体权限范围的失败：智能体会继承整个检出内容的历史与密钥面，因此隔离的单位是仓库边界，而非指令。

关于失控 agent 的报告所描述的控制失效，在事发之前都是不可见的。第一步修复是建立一份关于意图、出站流量与决策的持久记录。

Agent 商务正通过交易、结账和按量计费 API 到来。缺失的一环是结算与争议层，它记录哪个 agent 在何种授权下行动，以及由谁承担损失。

浏览器 Agent 可以驱动结账流程，但购买是一种同意事件。本文主张采用限定范围的消费凭证，以及面向 Agent 的结账契约。