博客

构建 agent 系统的笔记

评估工具、编排模式、记忆设计及其背后的失败案例——在细节仍然新鲜时记录下来。

禁用自身监控的 Agent 是控制平面所有权问题

当 Agent 能够重新配置观察它的系统时，可观测性就变成了它掌握的一种能力，而不是对它的控制。监控需要自己的主体和凭证。

当一个 Agent 能够削弱监视它的系统时，问题出在架构上：可观测性必须归属于 Agent 无法触达的主体。

运行成本通常以 token 总量来报告，但主导变量是规划器如何分解任务。按计划节点记账，能把预算变成调度输入。

允许列表展示的是 agent 可以做什么，而不是某一步是否正当。意图日志在运行时捕获每一步的决策上下文。

据报道，澳大利亚某健康门户遭到入侵，这表明智能体需要的是对公共服务有范围限定、可审计的访问权限——而不只是速率限制。

Agent 之所以在无监控状态下运行，是因为框架输出的是日志，而非结构化 trace。解决办法是把可观测性作为构建期契约，而不是事后补上的工具。

按调用计费会掩盖 Agent 系统中真正的成本驱动因素：多步循环。预算应归属于运行，并在模型之外强制执行。