跳转到主要内容
博客

构建 agent 系统的笔记

评估工具、编排模式、记忆设计及其背后的失败案例——在细节仍然新鲜时记录下来。

所有文章llm-agents 40agent-security 24multi-agent-systems 17evaluation 12agent-architecture 10agent-evaluation 10agent-safety 10authorisation 9policy-enforcement 9idempotency 8llm-evaluation 8provenance 8
服务器机架的近景，显示堆叠的存储单元、指示灯和线缆，位于昏暗的数据中心通道中。
2026年9月24日·5 分钟阅读

Agent 的审计追踪是预写日志问题，而非仪表盘问题

只有当每一次工具调用、凭证使用和状态转换在执行之前就被追加记录，Agent 的可问责性才可被证明，这也使日志成为运行时依赖。

agent-auditwrite-ahead-log可观测性
A close-up view of a futuristic bionic prosthetic arm in neon lighting.
2026年9月23日·5 分钟阅读

没有意图的身份：为何为智能体颁发凭证并不能约束它们

对智能体进行身份验证并限定其令牌范围，并不能约束它在一连串工具调用中的行为。按轨迹评估的意图级策略，才是弥合组合缺口的控制手段。

agent-securityidentitypolicy-enforcement
Flat lay of wooden letter blocks spelling 'Next Steps', inspiring progress and motivation.
2026年9月23日·4 分钟阅读

能自行选择下一步行动的恶意软件打破了基于签名的防御

当入侵工具使用一组模型来选择下一步行动时，检测必须从痕迹转向行为——而智能体平台会继承其后果。

agent-securitybehavioural-detectionllm-agents
数据中心服务器机架的近景，显示网络电缆和指示灯
2026年9月23日·6 分钟阅读

Agent 安全是横向移动问题，而非提示词问题

一旦 Agent 持有凭证并调用工具，其安全模型就等同于特权工作负载。请用同样的技术来评估它们。

agent-securitylateral-movementllm-agents
一张电路板的微距照片，显示走线、焊点和元件，景深较浅。
2026年9月22日·6 分钟阅读

智能体之间的操纵是一个协议问题

当一个智能体可以用未经证实的声明改变另一个智能体的计划时，缺陷在于协议，而非模型。来源标签、独立验证和重复断言上限可以遏制它。

multi-agent-systemsagent-securityprotocol-design
明尼苏达州议会大厦华丽拱门与立柱的特写。
2026年9月20日·6 分钟阅读

Agent 凭证是策略问题，而非提示词问题

没有范围限定的权限，会让每一次提示词注入都变成权限提升。要设计能力授予，而不是指令文本。

agent-securitycapability-grantsprompt-injection