博客

构建 agent 系统的笔记

评估工具、编排模式、记忆设计及其背后的失败案例——在细节仍然新鲜时记录下来。

遥测成本是 Agent 的设计变量，而非基础设施账单

Agent 工作负载会成倍放大可观测性支出，因为每一步都会发出 trace、日志和指标。解决办法是与 Agent 一同设计采样与保留策略。

评分模型将策略压缩为权重，但它们无法取代使评分可治理的、带版本的决策登记册。

决策与评判是两个独立的设计角色。当一个模型同时承担两者时，评估会继承执行者的盲区，从而不再可信。

小型决策模型能降低每步延迟，但它们解决的是路由问题，而非授权问题。将两者混为一谈会抹去事故复盘所需的审计轨迹。

像 Strands Decider 和 Clef 这样的廉价决策模型是路由原语，而不是控制面。把快速分类器当作执行点，只是转移了故障模式，而不是消除它。

哪些 agent 步骤离开手机，是设计期的数据分类与延迟权衡，而非运行时的隐私过滤器。

当智能体建仓时，它的概率输出就变成了一项结算义务。真正重要的产物是带有来源溯源的逐条声明结算账本，而不是一个校准过的数字。

只有当升级契约明确时，将 agent 失败路由给人类才有效：移交什么状态、操作员可以更改什么，以及修正如何返回给 agent。

对话记录不是科学记录。研究型智能体应当输出结构化、可核查的主张，并附带证据链接和明确的置信度。