博客

构建 agent 系统的笔记

评估工具、编排模式、记忆设计及其背后的失败案例——在细节仍然新鲜时记录下来。

输出泄露是溯源失败，而非模型对齐失败

当 agent 发布了本不应导出的用户产物时，缺陷在于流入生成输出的数据缺少溯源与污点追踪。

一条成本曲线，而非一个成本总额，让编排器在每一步权衡深度与开销。本文主张，这种权衡应当属于调度器内部。

共享图谱是多 Agent 上下文的一种可行基座，但成本落在实体消解与写入纪律上，而非查询层。

当智能体建仓时，它的概率输出就变成了一项结算义务。真正重要的产物是带有来源溯源的逐条声明结算账本，而不是一个校准过的数字。

当 Agent 访问到无关主机时，问题出在网络与权限的缺口。修复方式是在 socket 层强制执行一份明确的出口契约，而不是换一个更好的模型。

隔离的重点不在于隔离技术本身，而在于枚举、限定并撤销 agent 在一次运行中每一步所持有的能力。

允许列表展示的是 agent 可以做什么，而不是某一步是否正当。意图日志在运行时捕获每一步的决策上下文。

知识图谱为多智能体系统提供了显式的共享状态，但真正的工作在于决定哪个智能体可以写入哪条边，以及如何解决冲突写入。

静态允许列表跟不上运行时组合出来的 Agent 工具调用。运行时意图检查能捕捉到目标过滤遗漏的情况——前提是这项检查在热路径上足够廉价。