博客

构建 agent 系统的笔记

评估工具、编排模式、记忆设计及其背后的失败案例——在细节仍然新鲜时记录下来。

听话却仍造成伤害的 Agent：费城线报事件作为规格失效

费城虚假线报事件不是一个幻觉故事。它是一次规格失效：一个 agent 执行了具有后果的动作，而该动作的前置条件从未被声明。

agent 决策不一致，通常是一个输入缺失问题。评估应当记录并重放完整的决策上下文，而不是事后对输出打分。

终止开关与围堵方案都假设每个智能体是一个可控进程。而实际部署的集群是由父智能体、子智能体、工具会话与租约构成的图——它需要的是一套终止协议，而不是一个开关。

Walmart 和 Amazon 争论的不是机器人。它们对购物者的授权如何在结账时被表达、限定和证明，给出了不同的答案。

零售商在购物 agent 上出现分歧，是因为他们对谁承担争议交易的责任意见不一。真正的集成界面是授权记录，而非协议。

提示词层面的控制是建议性的，因为它们存在于一个概率系统内部。运行时拦截位于动作变得具体的位置，而权威正应属于那里。

自我改进的智能体会记住自己的测试，这暴露了一个流水线缺陷：评估集是数据产物，承担着与代码相同的生命周期义务。

一个停止运行但仍持有凭据的 agent 就是一个无人值守的主体。集群卫生必须安排凭据过期，而不是把它当作退役时的附带事项。

排行榜上的分数是模型、工具 schema、重试策略和运行时限制共同作用的结果。不公开 harness，这个数字就毫无意义。