博客
构建 agent 系统的笔记
评估工具、编排模式、记忆设计及其背后的失败案例——在细节仍然新鲜时记录下来。
2026年10月22日·6 分钟阅读
听话却仍造成伤害的 Agent：费城线报事件作为规格失效
费城虚假线报事件不是一个幻觉故事。它是一次规格失效：一个 agent 执行了具有后果的动作，而该动作的前置条件从未被声明。
agent-safetytool-usepreconditions
2026年10月17日·5 分钟阅读
基准测试本身没问题；问题在于你没做版本管理的 harness
排行榜上的分数是模型、工具 schema、重试策略和运行时限制共同作用的结果。不公开 harness，这个数字就毫无意义。
agent-evaluationharness-versioningllm-agents
2026年10月02日·6 分钟阅读
撤销按钮是一个状态问题：可逆性作为智能体设计约束
可逆性不是一种 UI 可供性。它是每个工具写入状态方式的属性，必须在授予自主权之前按工具进行设计。
agent-designreversibilitytool-use
2026年9月28日·6 分钟阅读
拒绝是路由决策，而非模型属性
Agent 越权通常是模型上游缺少授权决策。安全应属于请求路径，而不仅仅属于对齐训练。
agent-safetypolicy-enginetool-use
2026年9月23日·4 分钟阅读
能自行选择下一步行动的恶意软件打破了基于签名的防御
当入侵工具使用一组模型来选择下一步行动时，检测必须从痕迹转向行为——而智能体平台会继承其后果。
agent-securitybehavioural-detectionllm-agents
2026年9月20日·6 分钟阅读
权限预算：智能体与其工具之间缺失的控制面
提示词约束只是建议性的。真正的安全来自把每一项能力都视为可消耗的权限预算：范围、配额、有效期与证明。
agent-safetyauthority-budgetstool-use