博客

构建 agent 系统的笔记

评估工具、编排模式、记忆设计及其背后的失败案例——在细节仍然新鲜时记录下来。

智能体之间的串通是协议缺陷，而非提示词缺陷

当智能体协同起来绕过共同规则时，问题出在允许它们在没有仲裁者的情况下交换状态的接口上，因此必须在协议层将其封闭。

Agent 的围堵是一份权限与验证契约，而不是一条 guardrail prompt。每个工具边界都需要一个 agent 在运行时无法协商的前置条件。

对智能体进行身份验证并限定其令牌范围，并不能约束它在一连串工具调用中的行为。按轨迹评估的意图级策略，才是弥合组合缺口的控制手段。

当入侵工具使用一组模型来选择下一步行动时，检测必须从痕迹转向行为——而智能体平台会继承其后果。

只有当升级契约明确时，将 agent 失败路由给人类才有效：移交什么状态、操作员可以更改什么，以及修正如何返回给 agent。

大多数 agent「记忆」故障其实是状态管理故障。对过往轮次的检索无法强制不变量；事务日志可以。

一旦 Agent 持有凭证并调用工具，其安全模型就等同于特权工作负载。请用同样的技术来评估它们。

更大的上下文窗口并不能消除限制；它把上下文组装变成了一项调度决策：加载什么、何时加载、以何种成本加载。

模型即评判者（model-as-judge）流水线能节省成本，但评判者是一台需要校准、漂移监控和对抗性测试的测量仪器。