博客

构建 agent 系统的笔记

评估工具、编排模式、记忆设计及其背后的失败案例——在细节仍然新鲜时记录下来。

OpenShell 治标不治本：Agent 安全需要契约，而非终止开关

运行时遏制可以叫停行为异常的 agent，但如果没有预先声明的允许操作契约，这只是损害控制，而非预防。

沙箱能阻止逃逸，却无法界定 agent 被授权尝试什么。Agent 安全需要在运行时之上设置一层权限层，而不是更快的终止开关。