博客

构建 agent 系统的笔记

评估工具、编排模式、记忆设计及其背后的失败案例——在细节仍然新鲜时记录下来。

结算与授权：智能体交易揭示的行动边界问题

获得现金进行交易的智能体往往会反复买卖：问题不在于策略，而在于意图与已记录持仓之间缺少结算边界。

大多数 agent 工具调用失败源于 schema 定义不充分，而非推理能力不足。把工具接口当作可靠性的首要杠杆。

内容检查看到的是载荷，而不是目的地。出口账本记录智能体去了哪里、以什么顺序前往，以及每一跳有多新颖。

关于失控 agent 的报告所描述的控制失效，在事发之前都是不可见的。第一步修复是建立一份关于意图、出站流量与决策的持久记录。

运行时遏制可以叫停行为异常的 agent，但如果没有预先声明的允许操作契约，这只是损害控制，而非预防。

沙箱能阻止逃逸，却无法界定 agent 被授权尝试什么。Agent 安全需要在运行时之上设置一层权限层，而不是更快的终止开关。

大多数 Agent 越界行为始于工具接口，而非模型本身。收窄 Agent 可调用的接口面，比给它套上护栏更具杠杆效应。

速率限制约束的是 agent 行动的速度，而非它能到达的地方。出站控制必须是一份目的地与能力预算，在代理层强制执行，并在每次运行后对账。

静态的 agent 评分卡在工具被调用的那一刻就已过时。真正有用的产物，是从运行本身推导出的风险信号。