Agent 技术栈 — 我如何构建 agent
这是我对构建者最常问我的问题所给出的、带有明确立场的回答。这是一份持续更新的文档——随着领域发展我会不断修订。每个选择都配有一句话观点，而这些观点才是重点。
Orchestration
LangGraph
为具有真实分支、循环和状态的智能体提供显式的基于图的控制流。
观点显式图优于隐式链；当你的 agent 拥有真实的控制流时，应将其建模为图，而非 prompt。
Temporal
持久、可恢复的工作流执行，用于长时间运行的智能体任务。
观点Agent 工作是分布式系统工作；如果某一步可能崩溃，就让工作流持久化且可恢复。
Ray
分布式计算与 serving，用于并行智能体执行。
观点群体规模的并行执行首先是一个算力问题；在寻求更巧妙的办法之前，先用 Ray。
K8s / Fly.io
让 agent 在能扩展、能干净退出的地方运行。
观点让 agent 在能扩展、能干净退出的地方运行；无法重启 worker 的编排不是生产级。
工具使用与函数调用
函数/工具调用 + 结构化输出（JSON schema）
类型化工具签名，输出由 JSON-schema 强制约束。
观点给模型一份契约，而非散文；整个 agent 的可靠性取决于其工具签名的可靠性。
First-class action API
面向 agent 所处环境的宏/动作 API（源自基于视觉的 agent 工作的模式）。
观点要在世界中行动，你需要一个一等公民的动作 API——在每个领域都给 agent 真实的句柄和一个验证器。
MCP — 模型上下文协议
一条标准化总线，将模型与工具和数据源连接起来。
观点统一模型触达世界的方式；一条通用的工具总线胜过二十个定制连接器。
记忆与上下文
短期上下文 + 向量检索（RAG）
跨轮次持久化 agent 需要知道的内容，并从知识库中检索。
观点持久化 agent 需要知道的内容；无状态的 agent 是一个重放循环，而不是一个工作者。
Scratchpad 与工作记忆
为多步规划和工具结果提供结构化的中间状态。
观点不要把一切都塞进上下文窗口；维护一个工作记忆，让智能体有意识地读写。
评估与可观测性
基于环境的验证器
沙盒、模拟器和游戏，在智能体实际所处的世界中对其进行评估。
观点在 agent 实际行动的世界中评估它，而非凭感觉。评估是环境问题，不是评分标准问题。
LLM-as-judge（谨慎使用，可审计）
基于模型的评分，并用确定性检查双重验证。
观点评审模型是基线，不是真理；用确定性检查再核实一遍。
失败分类法 + 属于你自己的基准测试
一份分类整理的失败目录（错误命令、缺失步骤、逻辑错误），以及一套你持续维护的基准测试。
观点把你的失效模式整理成一套分类体系——这正是让棘手 bug 变得可调试的方式，也是你从每一个 bug 中学习的方式。一个可复现的失效就是一项研究成果。
Cost/latency budgets as first-class metrics
像追踪任何其他指标一样追踪每次运行的支出与延迟。
观点以合理成本跑通，胜过花十倍价钱跑得更漂亮。
Traces（OpenTelemetry / LangSmith 风格）
步骤级追踪与完整智能体运行的回放。
观点无法重放的东西就无法调优；trace 就是智能体的飞行记录仪。
成功率、成本、延迟、失败分布仪表盘
面向 agent 健康度的 SLO 风格仪表盘。
观点像对待 SLO 一样运行它，否则你就是在跑 demo。信心存在于 transcript 中，而非摘要里。
Deployment
容器 + 不可变部署
将智能体以容器形式交付，附带可版本化、可复现的构建产物。
观点如果你无法从同一产物两次重建它，你就没有部署——你只是在猜测。
带评估门禁的 CI/CD
在将新版本推广到生产环境之前运行 agent 的 evaluation 套件。
观点模型升级是回归风险，不是新功能；每次发布都要以 eval 套件为准，而不是凭直觉。
托管式无服务器 / 容器运行时
让智能体在零与满负载之间伸缩，无需人工照看基础设施。
观点Agent 天生具有突发性——将它们部署在可缩容至零并能快速恢复的环境中。
直截了当的回答。
什么是 AI 集群？+
An AI swarm is a coordinated system of multiple independent agents that share goals, decompose tasks, and negotiate solutions together. Unlike a single agent — one loop with one bottleneck and one point of failure — a swarm gets resilience and scale from redundancy and division of labor: parallel exploration, no single point of failure, and answers that emerge from collective reasoning rather than one model's guess. My thesis: intelligence emerges from structured interaction among many agents, not from a single bigger brain.
你如何评估多智能体系统？+
Evaluation is the bottleneck, not the model. I grade agents in the environment they act in — sandboxes, simulators, games — not against intuition. I use LLM-as-judge sparingly and audited, backed by deterministic checks; I ship failure taxonomies plus a benchmark I own; and I treat cost and latency as first-class metrics. A feedback loop is only as smart as its verifier.
什么时候该用 agent，什么时候该用单次模型调用？+
对于无状态、无工具、无需验证的一次性转换，使用单次模型调用。当任务需要多步规划、调用工具与外部世界交互、跨轮次记忆，或验证工作确实完成时，才使用 agent。如果你没有验证器，就先不要构建 agent。