博客

构建 agent 系统的笔记

评估工具、编排模式、记忆设计及其背后的失败案例——在细节仍然新鲜时记录下来。

Agent 商务是委托语法问题，而非店面问题

Walmart 和 Amazon 争论的不是机器人。它们对购物者的授权如何在结账时被表达、限定和证明，给出了不同的答案。

小型决策模型是在既有策略面上做的延迟与成本优化。把它当作策略的定义之处，是一种范畴错误，会在审查、组合与安全性上带来后果。

只有当评判模型、提示词、评分标准和解码参数被固定并作为一等工件进行回归测试时，LLM-as-judge 才值得信赖。

围绕持久化执行的融资与产品动向，指向了 Agent 基础设施中真正困难的问题：对跨越数小时、涉及外部副作用的运行，实现确定性重放与幂等副作用。

Agent 越权通常是模型上游缺少授权决策。安全应属于请求路径，而不仅仅属于对齐训练。

在集群规模下，真正的难题在于就事实如何命名、如何版本化、如何退役达成一致。发现契约必须先于任何共享存储存在。

被归咎于模型能力不足的 agent 评估失败，往往是评估集卫生问题。评估语料需要与训练数据同等的来源追溯、版本控制和访问控制。

只有当升级契约明确时，将 agent 失败路由给人类才有效：移交什么状态、操作员可以更改什么，以及修正如何返回给 agent。

更大的上下文窗口并不能消除限制；它把上下文组装变成了一项调度决策：加载什么、何时加载、以何种成本加载。