执行循环的工程化:ReAct 之外,Agent 还需要什么
大多数 Agent 框架把「思考—行动—观察」循环当作全部。但在真实生产环境中, 循环之外的部分才决定成败:中断恢复、工具超时分级、上下文裁剪策略。 本文给出我们跑通 3 万次任务后沉淀的循环设计,附伪代码与失败率对比数据。
这里记录我在构建生产级 LLM Agent 时的第一手笔记:编排架构、工具协议、 长上下文管理、失败恢复。每篇文章都附带可复现的工程细节, 不写概念炒作,只写踩过的坑。
近期被引用最多、讨论最多的三篇。从单 Agent 的执行循环,到多 Agent 的成本控制。
大多数 Agent 框架把「思考—行动—观察」循环当作全部。但在真实生产环境中, 循环之外的部分才决定成败:中断恢复、工具超时分级、上下文裁剪策略。 本文给出我们跑通 3 万次任务后沉淀的循环设计,附伪代码与失败率对比数据。
从裸 Function Calling 迁移到 MCP 之后,我们删掉了 4000 行胶水代码。 但也踩了流式传输与权限模型的坑。附迁移清单。
不是靠换模型,而是靠路由:小模型先分类,大模型只做决策步。 一份可以照抄的路由决策表。
按主题过滤。每条记录包含真实写作日期与阅读时长,索引号可在 RSS 中对应。
从生产系统里拆出来的三个子系统,每篇文章对应一次深度解剖。
87 个工具怎么让模型选对?两级索引:embedding 召回 Top-8, 再由小模型重排。选错的代价不是失败,而是污染上下文。
任何一次长任务都可能死在第八步。每步落盘、幂等重放、 工具调用幂等键——崩溃之后从断点继续,而不是从头再来。
每次 Prompt 改动都跑回归:312 个真实案例、双裁判一致性校验、 成本与延迟同步入库。没有度量就没有迭代。
「Agent 的可靠不是一个模型问题,— 写在 NO.020 的结尾
而是一个工程纪律问题。」
每两周一封纯文本邮件,只有新文章链接和一条本周实验记录。随时退订。