前言

⚠️ 时间线说明： 这篇文章实际上是在《Agent 生产落地：从 demo 到产品的血泪经验》之前完成的，一直躺在草稿箱里忘了发。阅读顺序上，建议先看这篇理解 ReAct 原理，再看那篇的生产实践经验。

想象一下你现在要煮盆饺子。烧水、打料内心独白支配着每一个动作：”水开了，我该下饺子了。”当发现缺少关键调料，内心独白会调整策略：”没辣椒了？我用老干妈代替。”面对技术难点时，这个思维过程会触发外部行动：”我不确定需要煮多久，我需要打开美食APP查下。”

这种边想边做、边做边调整的能力，是人类解决问题的基本方式。但传统的大语言模型（LLM）完全没有这种能力——它们更像一个闭卷考试的学生，只能凭记忆一口气写到底，错了也没法改。

在人工智能领域，传统的大语言模型（LLM）一直像静态黑盒一样运作。虽然这些模型擅长语言模仿，但它们缺乏功能性的”工作记忆”和与世界动态交互的能力。这种隔离滋生了两种系统性失败：“幻觉循环”，即模型自信地编造事实；以及“错误传播”，即单一的逻辑失误会毁掉整个回答。

ReAct（Reason + Act）框架代表了 AI 架构的范式转变。 通过在孤立认知与外部执行之间搭建结构性桥梁，ReAct 将 LLM 从对话者转变为能够规划、执行和自我纠正的自主 Agent。

这篇是我学习 ReAct 的笔记，想把它讲清楚，也给自己留个档。

一、ReAct 到底在解决什么问题

传统的 AI 能力其实是分裂的。要么你用 Chain-of-Thought（CoT）让模型在脑子里一步步推理，要么你用 Action-generation 让模型调用外部工具——但两者各自有坑：

纯推理（CoT）的问题： 模型完全依赖内部参数知识，是个封闭系统。它没法查资料，没法更新自己的认知，结果就是自信满满地编事实（幻觉），而且一步错步步错（错误传播）。

纯行动（Act-only）的问题： 模型可以调用工具，但缺乏显式的长期规划能力。它没法跟踪子目标，也没法系统地探索环境，很容易陷入重复或无意义的操作。

ReAct 的做法是：把两者缝合起来。 推理痕迹帮助模型诱导、跟踪和更新行动计划，处理异常情况；而行动让模型能够对接外部信息源（Wikipedia API、浏览器、数据库）来获取实时信息。

核心机制：反馈循环

ReAct 把 Agent 的活动结构化成一个三段式交替序列：

1

Thought（思考）→ Action（行动）→ Observation（观察）→ Thought（再思考）...

1. Thought： LLM 用思维链把大任务拆成可管理的小任务，分析数据，决定下一步做什么
2. Action： 模型输出使用某个预定义工具的意图（比如搜索数据库）。注意：LLM 自己不执行工具，只输出工具名和参数
3. Observation： 外部系统执行工具，把结果反馈给 LLM

Agent 基于这个观察重新评估进度，生成下一个 Thought。循环往复，直到输出最终答案。

这个循环看起来直白，但效果非常显著。在 HotpotQA 基准测试里，传统 CoT 的幻觉率（编瞎话的概率）是 14%，上了 ReAct 之后直接降到 6%[^1]。

二、五个核心要点：为什么 ReAct 有效

要点 1：推理与行动的协同

ReAct 范式打破了传统上推理与执行的二分。其核心是形式化表达 Â = A ∪ L。在这个等式中，Agent 的行动空间从物理或程序步骤（A）扩展到包含内部的”语言空间”（L）。通过将”思考”视为模型轨迹中的另一种行动类型，ReAct 允许 Agent 生成口头推理痕迹——或称”想法”——与特定任务的动作交错进行。

这种协同使模型能够诱导、跟踪和更新计划，同时实时处理异常。正如 Yao 等人在其奠基性研究中所言：

通过交错这些痕迹，模型使用推理来决定检索什么信息，而由此产生的观察又为后续推理提供基础。

要点 2：通过观察环节打破幻觉循环

传统的思维链（Chain-of-Thought, CoT）提示鼓励模型”一步步思考”，但它完全依赖模型的内部参数知识——一个容易”幻觉”不存在事实的封闭系统。ReAct 通过引入强制的 Observation（观察） 步骤来解决这个问题，将模型锚定在外部现实中。

在知识密集型任务中，ReAct 使用特定的动作词汇——包括 search[entity]、lookup[string] 和 finish[answer]——与 Wikipedia 等外部实体交互。这种迭代的 Thought-Action-Observation 循环迫使模型在继续之前根据真实知识库验证其逻辑。结果是统计学上显著的改进：在 HotpotQA 基准测试中，误报率（幻觉事实或逻辑的频率）从标准 CoT 的 14% 暴跌至 ReAct 框架下的 6%[^1]。这种锚定将 Agent 从创意作家转变为可信的调查者。

要点 3：代理技能的效率悖论

ReAct 扩展分析中最深刻的见解之一是：“代理技能”通常比原始模型大小更具参数效率。 我们在”小模型悖论”中看到了突破：教模型如何推理和行动，比强迫它在权重中记忆海量事实更具泛化能力。

数据揭示了一个惊人的层级关系：一个较小的 PaLM-8B 模型，仅在 3,000 条 ReAct 轨迹上微调，就能胜过完全依赖提示的巨大 PaLM-540B 模型。更令人印象深刻的是，微调的 62B 模型超过了 540B 提示版本的性能[^1]。这表明 AI 的未来不在于构建越来越大的记忆数据仓库，而在于提炼模型导航工具集和环境的程序能力。

数据来源：Yao et al., ReAct: Synergizing Reasoning and Acting in Language Models[^1]

要点 4：可解释性：终于能看懂 AI 在想什么了

传统模型的黑盒问题一直让人头疼。输入一个问题，输出一个答案，中间发生了什么？不知道。

ReAct 的”草稿本（scratchpad）”机制解决了这个问题。每一轮循环的 Thought、Action、Observation 都被记录下来，形成一条完整的”思维链”。

如果出错了，你能精确定位到是哪一步出的问题：

• 推理错误：模型陷入了重复循环，比如一直问同一个问题
• 检索错误：外部 API 返回了不相关的信息
• 行动错误：调用了错误的工具或参数

更有意思的是，这种透明性支持人在回路（Human-in-the-loop）的干预。这有点像你带新人：他在那自言自语分析问题，你说”这一步想偏了”，他马上就能纠正。

ReAct 通过其人类可读的”草稿本”，为 AI 的”黑盒”提供了一个罕见的窗口。Agent 过程的每一步都被记录为想法、行动和观察的序列，提供了以前不可能的诊断水平。

如果 Agent 失败，开发者可以精确定位确切的失败模式——比如模型陷入重复循环的”推理错误”，或外部 API 返回无信息结果的”搜索错误”。这种透明性还促进了“人在回路（Human-in-the-loop）”的纠正。在 ALFWorld 环境（一个基于文本的任务模拟器）中，研究人员证明，人类可以通过简单编辑草稿本上的”想法”来引导失败的 Agent 回到正轨——删除幻觉或添加提示——使 AI 能够立即重新校准其计划[^1]。

示例：ReAct 轨迹

1
2
3
4
5

Thought: 用户询问 2024 年诺贝尔物理学奖得主，我需要确认最新获奖信息。
Action: search[2024 Nobel Prize in Physics winner]
Observation: John J. Hopfield and Geoffrey Hinton were awarded...
Thought: 好的，我已获得准确信息，现在可以回答用户了。
Action: finish[约翰·霍普菲尔德和杰弗里·辛顿]

要点 5：复杂环境的动态规划

虽然标准 LLM 在多步骤任务上挣扎，但 ReAct 在 ALFWorld（合成家庭任务）和 WebShop（拥有 118 万产品的在线购物环境）等交互式环境中表现出色。与遵循 rigid 脚本的”仅行动（Act-only）”Agent 不同，ReAct Agent 利用动态推理将高级目标分解为可管理的子目标。

所以ReAct 的真正威力，在处理多步骤、需要探索的任务时才会显现出来。

ALFWorld 里有个典型任务：”把一个发烫的平底锅放到冷却架上”。这看起来简单，但模型需要：

• 找到平底锅（可能在灶台上）
• 判断它是不是”发烫”的状态
• 找到冷却架（可能在橱柜里）
• 规划一条合理的移动路径

传统”只行动不思考”的 Agent（Act-only）在这种任务上成功率只有 45%，而 ReAct 能达到 71%[^1]。

ReAct 利用预训练的”常识知识”——例如，知道胡椒罐更可能在橱柜里而不是冰箱里——以手术般的效率探索环境。通过维护其进度的内部记录，ReAct Agent 避免了困扰纯反应式系统的无产出循环。

三、如何构建一个 ReAct Agent

你可以用 LangChain、LangGraph 或 BeeAI 等开源框架快速搭建（比如 LangChain 的 ZERO_SHOT_REACT_DESCRIPTION），也可以从零用纯 Python 手写。下面是手写版本的逻辑拆解：

步骤 1：定义工具集

首先确定模型能用的具体行动。写 Python 函数（计算器、搜索等），然后把它们的签名和描述提取成 LLM 能理解的格式（JSON 或字符串）。

1
2
3
4
5
6
7
8
9
10
11

# 示例工具定义
tools = {
    "search": {
        "description": "搜索 Wikipedia 获取实体信息",
        "parameters": {"entity": "要搜索的关键词"}
    },
    "calculator": {
        "description": "执行数学计算",
        "parameters": {"expression": "数学表达式"}
    }
}

步骤 2：编写 ReAct 提示词

ReAct Agent 极度依赖特定的提示技巧来结构化输出。系统提示必须：

• 引导模型一步步思考，交错想法和行动
• 提供可用工具列表
• 定义严格的输出格式，通常用标签如 Thought:、Action:、Action Input:、Observation:

提示词模板示例：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15

你是一个能够使用工具的 AI 助手。按以下格式解决问题：

Thought: 分析当前情况，决定下一步行动
Action: 要使用的工具名称（从 [{tool_names}] 中选择）
Action Input: 传递给工具的参数
Observation: 工具执行结果
...（重复 Thought/Action/Observation 直到得出结论）
Thought: 我现在知道最终答案了
Final Answer: 用户的最终答案

可用工具：
{tools}

开始：
Question: {input}

步骤 3：构建执行循环

把提示词和用户问题传给 LLM 后，你需要一个程序循环来处理执行：

1. 解析输出： 拦截 LLM 的文本输出，提取 Action（工具名）和 Action Input（参数）
2. 执行工具： 你的 Python 代码调用对应的函数
3. 返回观察： 把函数结果格式化为 Observation，追加到对话历史
4. 重复： 把更新后的上下文传回 LLM，让它基于新数据生成下一个 Thought
5. 终止： 当 LLM 确定有最终答案并使用 “Finish” 动作或输出最终响应标签时，循环结束

伪代码示意：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19

max_iterations = 10
history = prompt_template.format(input=user_question)

for i in range(max_iterations):
    response = llm.generate(history)
    
    # 解析 Thought/Action/Observation
    thought = extract_thought(response)
    action = extract_action(response)
    action_input = extract_action_input(response)
    
    if action == "Finish":
        return action_input  # 最终答案
    
    # 执行工具
    observation = execute_tool(action, action_input)
    
    # 追加到历史
    history += f"\nThought: {thought}\nAction: {action}\nAction Input: {action_input}\nObservation: {observation}"

四、生产环境的优化技巧

要让 ReAct Agent 稳定、高效地运行，避免常见陷阱，你需要以下优化：

1. 使用少样本示例（Few-Shot Exemplars）

虽然可以构建”零样本”ReAct Agent，但性能会在你加入人工编写的完整 Thought-Action-Observation 轨迹示例后显著提升。提供 3 到 6 个 高质量、任务特定的示例，能教会模型如何格式化想法、分解任务、处理不同工具。

2. 与 Chain-of-Thought 和自一致性结合

研究表明，ReAct 高度依赖搜索结果质量；如果工具返回无用数据，模型的推理会跑偏。反过来，标准 CoT 受困于幻觉。

最佳实践是构建混合系统：

• 如果 ReAct Agent 在给定步数内无法返回答案，回退到内部 CoT 推理（使用 Self-Consistency，即采样多条 CoT 路径并取多数答案）
• 如果 CoT-SC 置信度低，切换到 ReAct 收集外部事实

这种”双保险”策略在知识密集型任务上效果最好。

3. 设置严格的循环限制

因为框架本质上是反馈循环，ReAct Agent 有时会陷入重复生成相同想法和行动的困境，导致高延迟和 token 成本爆炸。你必须在代码中设置最大迭代次数或特定结束条件（如置信度阈值）来防止无限循环。

1
2
3
4
5
6
7
8
9
10
11

# 示例：多层防护
MAX_ITERATIONS = 10
MAX_COST = 0.5  # 美元
seen_actions = set()

for step in range(MAX_ITERATIONS):
    action_signature = (action_name, action_input)
    if action_signature in seen_actions:
        # 检测到循环，触发终止或切换策略
        break
    seen_actions.add(action_signature)

4. 微调实现可扩展性

纯粹从上下文提示中学习复杂推理和行动是困难的，尤其是对较小语言模型。然而，在几千条正确的 ReAct 轨迹上微调较小模型（如 8B 参数模型），能让它们大幅超越仅依赖标准提示的更大模型（如 PaLM-540B）。

工程建议：

• 收集生产环境中的高质量轨迹作为微调数据
• 使用 LoRA 等高效微调技术降低计算成本
• 小模型+ReAct 往往比大模型裸跑更省算力、更可控

5. 实现人在回路（Human-in-the-Loop）纠正

因为 ReAct 生成可读的、 verbalized 的推理痕迹，系统具有高度可解释性。你可以设计 Agent 允许人类检查其内心独白。如果模型产生了幻觉想法或走错了路，人类可以直接编辑生成的 Thought 文本。这能纠正模型的后续行为，引导它成功，无需重写代码或手动执行动作。

典型应用场景：

• 客服 Agent 遇到边界案例时，人工客服介入修正推理方向
• 代码生成 Agent 逻辑走偏时，程序员编辑 Thought 引导它回到正轨
• 研究 Agent 检索到无关信息时，研究员删除幻觉并提供正确线索

五、写在最后

ReAct 给我的最大启发，不是技术细节，而是一种设计哲学的转变。

以前我们总想造一个”什么都知道”的 AI——把人类知识全塞进模型参数里。ReAct 走的是另一条路：承认模型不可能全知，给它一套”查资料+推理”的机制，让它像人一样边做边学。

当前 AI 的最先进水平并不依赖单一框架，而是协同的切换方法。最有能力的系统将 ReAct 与 CoT-自一致性结合，对逻辑任务利用内部参数知识，当内部置信度低时切换到 ReAct 进行外部锚定。

随着我们从对话式聊天机器人过渡到能够浏览网页、使用软件工具和管理工作流的自主 Agent，Thought-Action-Observation 循环正在成为安全和可靠性的行业标准。我们不再只是构建会说话的模型；我们正在构建为了行动而思考的 Agent。

参考

[1]: ReAct Prompting - Prompting Guide
[2]: What is a ReAct Agent? - IBM
[3]: ReAct Paper (PDF) - arXiv
[4]: ReAct: Synergizing Reasoning and Acting in Language Models

前言

虽然正儿八经做架构设计不到两年，但是我越来越笃信一个理念：好的架构不是”一步到位”的 perfection，而是在成本约束下的渐进式演进。

尤其是在构建 AI Agent 系统 时，这个理念更为重要。Agent 不同于传统的 API 调用或批处理任务，它是一个能自主决策、持续学习、与环境交互的智能体。这意味着：

• 它不是静态的：今天有效的策略，明天可能需要调整
• 它是有状态的：需要维护上下文、记忆、反馈循环
• 它是渐进的：从简单的固定工作流（Workflow）到复杂的自主决策（ReAct），需要一步步验证

这里的成本不只是钱，还包括：

• 实现成本：团队对 Agent 模式的理解、Prompt Engineering 能力、RAG 调优经验
• 部署成本：LLM 推理的延迟和费用、向量数据库的运维、多模型路由的复杂度
• 机会成本：为了做通用 Agent 而放弃的专用模型，值不值得

但我说的渐进式演进，绝不是无脑地给自己挖坑、留技术债的借口——当然，这话也不能说太绝。

实际上，有时候我会故意选择留一些”可控的技术债”，或者接受部分妥协。比如明知道某个设计将来可能需要推翻重来，但如果当前阶段的目标只是快速验证（打单、demo、MVP），那我可能干脆就不考虑那么远的扩展性。等真到了需要推倒重来的那一天，说明业务已经跑通了，那点重构成本完全值得。

还有一种情况：完全推翻重来也没关系。比如早期为了抢时间做的 demo，本来就是用来验证需求的，验证完了直接扔掉重写，反而比在一堆妥协之上缝缝补补更干净。

所以关键不是”不能留技术债”，而是清醒地知道自己在做什么选择——是为了赶时间而主动承担的技术债？还是为了偷懒而无意间埋的雷？前者可控，后者致命。

每一阶段都要有清晰的”逃生通道”和”回滚方案”，但具体是渐进演进还是推倒重来，得看场景，不能教条。

先说说背景

我们是在构建一个病历质控 Agent——核心职责是：医生写完病历后，Agent 自动评估质量，识别潜在风险并给出改进建议。

这看起来就是调个 LLM API，但实际上要做一个能持续运行、自主决策、从反馈中学习的 Agent 系统，坑很多：

• 医疗场景容错率极低：漏了过敏史或剂量错误，就是事故
• 需要可解释：必须说明为啥判定有问题，依据是什么
• 需要可控制：不能让它胡说，得有明确边界
• 需要可进化：能从医生反馈中学习，越用越准

所以我们设计了两阶段路线：Phase 1 固定工作流 → Phase 2 ReAct Agent，渐进式演进。

技术选型：不同阶段，不同选择

技术选型不是非黑即白，而是看阶段、看目标。我们的演进路径经历了三个阶段：

阶段一：预研验证（LangChain / LangGraph + Python）

刚开始预研时，我们的目标其实挺大：想做一个 1 + N 的 AI 能力底座。

1 是一个可微调、可沉淀领域能力的小模型，用来理解宠物医疗里的术语、病历结构、诊疗知识；N 是围绕业务长出来的一组 Agent，比如病历质控 Agent、用药检查 Agent、诊疗辅助 Agent、话术合规 Agent。

这个阶段最大的问题不是”怎么写一个 HTTP 调用”，而是 Agent 的边界到底在哪：

• 要不要多 Agent 协作？
• 工具调用怎么编排？
• 状态怎么保存？
• 什么时候需要 human-in-the-loop？
• 失败后怎么恢复？

所以当时选了 LangChain / LangGraph 这类流行框架。LangChain 更像 LLM 应用开发生态，模型调用、工具封装、RAG、Agent 都有；LangGraph 更偏 Agent 编排，适合探索长流程、状态化、多工具调用这些问题。

这时候用成熟生态没问题，因为核心目标是跑通 Agent 的各种可能性，快速验证边界。但这只是预研工具，不是生产承诺。等后面发现病历质控主链路其实是固定 Workflow，不需要复杂 Agent 编排时，我们才逐步做减法。

阶段二：打单/MVP（Spring AI + Java）

预研验证通过后，需要给客户、投资人演示。但目前主要的技术栈是 Java，团队内当前资源也有限，没法快速用 Python demo 去交付。

于是迁移到 Spring AI。这时候的目标是快速产出可演示的产品，框架封装得好，开发速度快，哪怕有点”魔法”、有点性能损耗，也先不管。

阶段三：生产落地（WebClient + Jackson）

真正要上线生产了，目标变成了稳定、可控、可运维。这时候 Spring AI 的问题暴露出来了：

• 对我们这个固定 Workflow 来说，框架抽象带来的收益不大
• 真正出问题时，我更想直接看到 HTTP 请求、响应、超时、重试和 JSON 解析细节
• 我们暂时不需要复杂的 Advisor、Tool Calling、Memory 抽象，自己控制反而更简单

这不是说 Spring AI 不适合生产。相反，如果你需要快速接入多模型、结构化输出、工具调用、RAG 编排，它是一个很好的选择。

但在我们的场景里，控制流很固定，业务风险又高，于是做减法，直接上 WebClient + Jackson。自己写 HTTP 调用、自己处理 JSON，代码多了一点，但超时、重试、日志、Schema 校验、错误码映射，每一层都能看得见、控得住。

你看，没有绝对的好坏，只有适合不适合当前阶段。

当然，基础设施层的选择是贯穿始终的——这些一旦选定就不容易改，所以一开始就做了减法：

生产环境跟 POC 最大的区别就是：能少一个组件就少一个组件。每多一个依赖，就是多一个故障点。

模型部署方式这块，我反而觉得不是最核心的选择。

这里说的在线 API，不是指国外 API。国外 API 肯定不在我们的候选里，不是模型能力问题，而是数据合规、网络稳定性、客户接受度都绕不过去。主路径更现实的选择是 DeepSeek API：接入快，成本可控，也不用一开始就背 GPU 服务器和推理运维的包袱。

本地部署一开始并不是首选。真要自己上 vLLM、上 Qwen3，本质上是在买一套推理基础设施：GPU、显存、并发、排队、监控、扩容、模型升级，哪一个都不是免费的。对 MVP 和早期生产来说，性价比远不如 API。

后来之所以补本地部署方案，是因为有客户明确提了私有化诉求，希望模型和数据都在本地环境里跑。那我们就把 LLM 调用层抽成统一接口：默认走 DeepSeek API，私有化部署时切到 vLLM + Qwen3。这个切换并不复杂，真正复杂的是 Agent 的流程、工具边界、RAG 命中、反馈闭环和安全护栏。

换句话说：模型可以换，Agent 设计不能乱。这篇文章真正想讲的重点，也不是“到底用哪个模型”，而是怎么把 Agent 设计贴到宠物医疗的真实业务流程上。

这里很多人会问：那为什么不用 Qdrant？

Qdrant 是一个很强的向量数据库，尤其适合：

• 数据量上来以后，需要更稳定的低延迟 ANN 检索
• metadata filter 很复杂，比如按医院、科室、宠物类型、疾病分类、时间范围一起过滤
• 想做 dense + sparse hybrid search，甚至多向量检索、late interaction rerank
• 向量检索已经变成系统核心能力，需要单独扩容、监控、调参

但我现在还是先选 pgvector。原因很现实：我们已有 PostgreSQL，病历、反馈、样本、审计日志都在里面。Phase 1 的样本量也就几百到几万级，pgvector + HNSW 足够跑。医疗场景里，事务一致性、审计链路、少一个运维组件，比单纯追求向量检索性能更重要。

所以我的判断是：pgvector 是当前阶段的正确选择，Qdrant 是下一阶段的迁移选项。如果后面样本库涨到百万级，或者我们发现复杂过滤下 pgvector 召回/延迟开始不稳，再把检索层抽成独立服务迁到 Qdrant。这样迁移成本可控，也不会太早把系统复杂度抬上去。

RAG 设计：向量检索不是万能药

做医疗质控，核心是怎么让 AI “懂业务”。我们用了 RAG（检索增强生成）来做知识注入，但这里面有几个细节值得说说。

两种检索策略

我们设计了两条检索路径，分别对应不同的业务场景：

第一种：Few-shot 样本检索（对应 agent_few_shot_examples 表）

根据病历内容，从历史优质病例里找相似的。Embedding 首选 Qwen3 Embedding，存 pgvector。

这里有个坑：不能把整份病历一股脑塞进去做 embedding。病历是长文本，而且字段语义差异很大。主诉、诊断、用药、检查结果、医嘱，混在一起向量化，很容易把关键风险冲淡。

所以我们按字段拆 chunk：

• 主诉/现病史：用于找相似病例
• 诊断：用于找诊疗规范
• 用药：用于找剂量、禁忌、配伍规则
• 化验结果：用于找参考值和异常解释

第一版用纯向量召回，后面会加 keyword + vector 的混合检索，再接 Qwen3 Reranker 做二次排序。医疗场景里，召回率比“看起来很准”更重要，漏掉一条禁忌才是真正要命的问题。

1
2
3
4
5
6
7
8
9
10
11

-- pgvector 用法很简单
CREATE EXTENSION IF NOT EXISTS vector;

ALTER TABLE agent_few_shot_examples
  ADD COLUMN embedding vector(1024); -- Qwen3-Embedding-0.6B 默认 1024 维

-- 语义相似度检索
SELECT *, 1 - (embedding <=> CAST(:embedding AS vector)) AS similarity
FROM agent_few_shot_examples
ORDER BY embedding <=> CAST(:embedding AS vector)
LIMIT :limit;

这只是最小示例。生产里还得建索引，不然样本库一大，延迟会很难看：

1
2
3
4

-- HNSW 构建慢一点、吃内存一点，但通常有更好的召回/延迟平衡
CREATE INDEX agent_few_shot_examples_embedding_hnsw
ON agent_few_shot_examples
USING hnsw (embedding vector_cosine_ops);

pgvector 还有 IVFFlat，构建更快，但要调 lists/probes。我们的选择是：样本量还不大时直接 HNSW，先把线上查询延迟和召回稳定住。

第二种：知识库检索（对应 agent_knowledge_base 表）

药典、诊疗规范、化验参考值。注意：图片不参与向量检索，存 OSS 里，检索命中后返回链接即可。

Embedding 模型的选择

embedding 模型我现在首选 Qwen3 Embedding，原因很直接：

• 跟 Qwen3 主模型体系更一致，RAG 链路里少一点“模型语义空间错位”
• 对中英混合、长文本、多任务检索更稳
• 后续可以接 Qwen3 Reranker，把“多召回一点”变成“排序更准一点”

text2vec-base-chinese 不是不能用。它的优点是轻、便宜、CPU 能跑，适合做边缘部署或降级方案。但如果目标是病历质控这种高风险场景，我会把它放在 fallback，而不是主路径。

1
2
3
4
5
6
7
8
9
10
11

# 示例：Embedding 服务可以独立部署，主 Java 服务只通过 HTTP 调用
from flask import Flask, jsonify, request
from sentence_transformers import SentenceTransformer

app = Flask(__name__)
model = SentenceTransformer('Qwen/Qwen3-Embedding-0.6B')

@app.route('/embed', methods=['POST'])
def embed():
    text = request.json['text']
    return jsonify({'embedding': model.encode(text).tolist()})

多模型路由：Agent 也得”看菜吃饭”

不同任务对模型能力要求不同，我们做了 LlmRouter，让 Agent 按需选择。

这里路由的重点不是把代码写死到某个模型厂商，而是按任务能力分层：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19

@Component
public class LlmRouter {
    private final Map<AgentType, ModelProfile> profiles;
    private final LlmClient llmClient;

    public LlmRouter(LlmClient llmClient) {
        this.llmClient = llmClient; // 默认 DeepSeek API，私有化时切到 vLLM/Qwen3 实现
        this.profiles = Map.of(
            AgentType.RECORD_EVAL,       ModelProfile.HIGH_REASONING,
            AgentType.DRUG_CHECK,        ModelProfile.HIGH_REASONING,
            AgentType.SCRIPT_COMPLIANCE, ModelProfile.FAST_CHECK,
            AgentType.DIAGNOSIS_ASSIST,  ModelProfile.HIGH_REASONING
        );
    }

    public LlmResponse chat(AgentType type, List<Message> messages) {
        return llmClient.chat(profiles.get(type), messages);
    }
}

这样做以后，默认线上可以走 DeepSeek API；客户要私有化，就换成 vLLM + Qwen3 的 LlmClient 实现。Agent 的业务代码不用跟着模型一起改。

成本降低 60%，不是因为某个模型突然变魔法了，而是因为任务被拆清楚了。高风险、高推理任务用高能力档；低风险、规则性任务用低成本档。生产环境嘛，能省则省，但不能省到影响医疗安全。

当然，这句话不能只靠感觉。我们内部看的是一组固定评测集：

尤其是高风险漏检率，只要这个指标变差，成本省再多也不能上。医疗场景不是推荐系统，不能用“整体点击率提升”那套逻辑糊弄自己。

Phase 1 vs Phase 2：Agent 的渐进式落地

这里想重点聊聊落地节奏。我们分两阶段走：

Phase 1：固定工作流（已上线）

先做”傻瓜式”的固定流程：

1. 病历保存 → 触发评估事件 → Redis Stream
2. Worker 消费消息 → PromptBuilder 拼装提示词
3. RAG 检索相似样本 → 注入 Prompt
4. 调用 LLM → 返回 JSON 格式的评估结果
5. 前端展示报告 → 医生可反馈（采纳/拒绝/评分）

这个阶段的 Agent 没有”自主决策”能力，就是按固定套路走。但好处是可控、可预期、好调试。出问题了一步步排查，不会遇到那种”Agent 突然抽风”的诡异 bug。

Phase 2：ReAct Agent（灰度中）

等工作流稳定了，再逐步引入 ReAct 循环，让 Agent 能主动调用工具：

• 药典查询（判断用药合理性）
• 历史病历检索（了解既往病史）
• 诊疗规范检索（判断诊断是否规范）
• 化验参考值（判断检查结果）

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21

// ReAct 循环核心
public EvaluationResult run(MedicalRecord record) {
    List<Message> context = buildInitialContext(record);

    for (int turn = 0; turn < MAX_TURNS; turn++) {
        // LLM 推理
        LlmResponse resp = llmRouter.chat(AgentType.RECORD_EVAL, context);

        if (resp.isFinished())
            return parseResult(resp.content());  // 输出结论

        // 否则调用工具
        ToolCall call = resp.getToolCall();
        String toolResult = toolRouter.invoke(call);

        // 工具结果回传上下文
        context.add(Message.assistant(resp.content(), call));
        context.add(Message.tool(call.id(), toolResult));
    }
    return fallbackToWorkflowOrHumanReview(context);  // 超出轮次后降级，不强行给医疗结论
}

有个 agent.enabled 开关可以切模式，万一 Phase 2 出问题，随时回滚到 Phase 1。

生产护栏：比模型更重要的东西

Agent 上生产，模型能力只是一半。另一半是护栏。

我们做了几件很朴素但很关键的事：

1. 结构化输出校验：LLM 必须返回符合 JSON Schema 的结果，解析失败重试一次，再失败就转人工复核
2. Prompt 和规则版本化：每次评估都记录 prompt 版本、规则版本、模型版本，出了问题能回放
3. RAG 命中留痕：命中了哪些样本、哪些知识条目、相似度多少，都落库
4. 高风险结论必须有依据：涉及过敏、剂量、禁忌、诊疗规范，不能只有 LLM 一句话，必须能指回规则或知识库
5. 工具调用白名单：ReAct 能调用哪些工具、每个工具最大超时、最大轮次，都写死在配置里
6. 灰度开关和降级路径：Phase 2 出问题，马上切回 Phase 1；LLM 出问题，转人工复核，不让系统硬撑

这些东西不酷，但这才是生产环境真正救命的地方。

进化机制：让 Agent 自己长本事

最让我们团队骄傲的，是这个”每周进化”机制。

传统的 AI 项目上线了就完事了，效果衰减没人管。我们设计了一个定时任务（每周日凌晨 3 点）：

1. 统计反馈数据：过去一周医生的采纳率、评分
2. 提炼高质量样本：采纳率>80% 且 评分>80 的案例，自动提升为 Few-shot 样本
3. 分析 Bad Case：高拒绝率的案例，让 LLM 分析原因，生成候选规则
4. 淘汰低效样本：长期不被采纳的样本自动下线

这就形成了一个闭环：Agent 评估 → 医生反馈 → 自动学习 → Agent 能力提升 → 更多评估 → 更多反馈…

但这里必须克制：Agent 不能自己改生产规则。

我们做的是“自动发现，人工发布”。LLM 可以帮忙总结 Bad Case，生成候选 prompt 规则，推荐哪些样本应该提升为 Few-shot，但这些变更要先进审核队列。医生或业务专家确认后，才会发布到生产版本。每次发布都有版本号，也能回滚。

上线两个月，样本库从初始的 50 条涨到了 300+ 条，采纳率从 65% 提升到了 82%。关键不是“零人工干预”，而是把人工精力用在审核和校准上，而不是每天手工翻 Bad Case。这才是可持续的进化。

部署架构：能复用就复用

最后简单说下部署。我们的原则是：默认不新增重基础设施，客户要求私有化时再补本地推理层。

默认 SaaS 形态是这样：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21

┌─────────────────────────────────────────────────────────────┐
│                    现有基础设施                               │
├─────────────────────────────────────────────────────────────┤
│  PostgreSQL (+ pgvector 插件)  ←  已有实例，加向量列即可       │
│  Redis                        ←  已有，新增 Stream key       │
│  Nacos                        ←  已有，服务注册发现           │
└─────────────────────────────────────────────────────────────┘
                            │
                            ▼
┌─────────────────────────────────────────────────────────────┐
│  ai-agent-service (新服务，2C/2G)                            │
│  ├── 固定工作流 (Phase 1)                                    │
│  ├── RAG 检索模块                                            │
│  └── ReAct Agent (Phase 2，可开关)                           │
└─────────────────────────────────────────────────────────────┘
           │                                   │
           ▼                                   ▼
┌──────────────────────┐          ┌────────────────────────────┐
│  DeepSeek API         │          │  embedding 服务             │
│  默认 LLM 调用入口     │          │  Qwen3 Embedding 独立部署    │
└──────────────────────┘          └────────────────────────────┘

如果客户要求私有化部署，再把 DeepSeek API 那一层替换成本地推理服务：

1
2
3

DeepSeek API
    ↓
vLLM + Qwen3（客户私有化环境）

这个替换只发生在 LlmClient 实现层，不影响 Agent 的工作流、工具调用、RAG 检索和反馈闭环。也正因为这样，我们没有一开始就为了“看起来更自主可控”去买 GPU 堆本地模型。早期最贵的不是 API 调用费，而是团队把精力消耗在推理运维上，却还没证明 Agent 真的贴合业务。

写在最后

做 Agent 生产落地，最大的感悟是：克制比炫技更重要。

我们当然可以搞个多 Agent 协作系统，每个 Agent 都有自己的记忆、工具、规划能力，看起来很酷。但现实是，大部分业务场景不需要那么复杂。一个固定的 Workflow + RAG 增强 + LLM 推理，能解决 80% 的问题。这就是我们 Phase 1 的选择。

剩下的 20%，才是需要 ReAct、自主决策、工具调用的场景。而且即使做 Agent，也要给足控制手段——开关、降级、人工介入，一样都不能少。

Agent 不是魔法，它是一个需要工程化打磨的智能系统。把预期放低一点，把工程做实一点，反而更容易成功。

参考链接：

• pgvector 文档
• Qdrant 文档
• Qwen3 Embedding
• text2vec-base-chinese
• Qwen3 技术报告

关联阅读：

• AI Agent 架构深度解析：原理、模式与生产落地
• Agentic 入门：让 AI 不再一把梭，而是像人一样反复干活
• Anthropic：长期运行 Agent 应用的 Harness 设计
• Context Engineering：比提示词工程更底层的那件事
• RAG 深度解析：从原理到生产落地的完整指南

如果你也在做 Agent 落地，欢迎交流。踩过的坑，说不定能帮到你。

这篇是我之前搭建 RAG 系统时的踩坑总结。从最初的”不就是向量检索+LLM吗”到真正生产上线，中间踩的坑比我想象的多得多，有些坑甚至让我怀疑人生。

其实在上一家公司的时候我就手痒自己搞过一个产品的 RAG，当时借着技术分享活动练手。那时候技术栈比较旧，加上边学边搭，效果只能说…勉强能跑。召回率估计就60%左右，不稳定，有时候幻觉大得离谱。不过当时内部项目不上线，虽然效果不咋地，但分享活动上大家认可度挺高——毕竟都是第一次了解这东西，有个能跑通的 Demo 已经算成功了。

当时问题一大堆：Embedding选哪个？chunking咋切？上下文太长怎么处理？幻觉怎么解决？评估指标怎么定？一个接一个冒出来，搞得我头大。

这次要真正上线生产了，逼着我把 RAG 的每个环节都仔仔细细学了一遍。

一、RAG 的起源：为什么 Meta 要搞这么个东西

1.1 2020 年的那篇开山之作

RAG 这个概念最早出自 Meta（当时还叫 Facebook AI）2020 年 5 月的一篇论文。那时候 GPT-3 还没发布，BERT 刚火了一年多。研究团队面临的核心问题是：怎么让语言模型具备知识，但又不需要把知识全部塞进模型参数里？

他们的思路很巧妙：与其让模型死记硬背所有知识，不如给模型配一个”外挂”——一个可检索的知识库。模型需要的时候就去查，查到了再生成答案。这就像是开卷考试，不用背整本书，知道怎么查就行。

这个思路解决了当时的大痛点：

• 知识更新问题：模型参数是固定的，但世界在变。RAG 让知识库可以独立更新
• 知识容量问题：模型参数量再大也有限，但外部知识库可以无限扩展
• 可解释性问题：模型能告诉你答案是从哪查的

1.2 为什么现在 RAG 火了

2023 年 ChatGPT 爆火之后，RAG 突然成了企业落地 LLM 的首选方案。原因很简单：企业有大量私有数据，这些数据不能用来训练通用大模型——隐私、成本、时效性都是问题。RAG 提供了一个完美的解决方案：把私有数据放在向量数据库里，查询时再喂给 LLM。

所以现在你看到的各种”企业知识库”、”智能客服”、”文档问答”，底层基本都是 RAG。

说实话，我刚开始接触 RAG 的时候也觉得”这不就是搜索+大模型吗，有啥难的”。但真正做起来才发现，要让这个”简单”的架构在生产环境稳定跑起来，要考虑的东西远比想象的多。

二、RAG 到底是什么：名字里的三个关键词

RAG 全称是 Retrieval-Augmented Generation，三个词分别对应三个核心环节。我第一次看到这个名字的时候也觉得挺绕口的，其实就是”先检索，再增强，最后生成”的意思。

2.1 Retrieval（检索）

核心任务：从海量文档中找到与用户问题相关的片段。

关键技术点包括 Embedding（把文本转成向量）、向量数据库（存储和索引这些向量）、相似度搜索（找出最相似的文档片段）。

这里有个坑我踩过：刚开始我以为向量相似度越高，检索结果就一定越好。实际上不是这样，有时候语义相近但内容不相关的情况挺常见的，后面会讲怎么解决。

2.2 Augmented（增强）

核心任务：把检索到的信息注入到 LLM 的输入中。

这里的关键是 Prompt Engineering。你需要设计一个模板，把问题和检索到的上下文组合起来，让 LLM 知道”基于这些信息来回答”。

2.3 Generation（生成）

核心任务：LLM 根据增强后的输入生成最终答案。

这一步看起来简单，但实际上有很多细节：

• 上下文长度限制怎么办？
• 检索到多个片段怎么排序？
• 如果检索结果里有矛盾信息怎么处理？

三、完整的 RAG 系统应该长什么样

一个生产级的 RAG 系统绝不是”向量数据库+LLM”那么简单。我把完整链路画出来，你可以看看有多少环节：

3.1 数据准备阶段（Indexing）

1

原始文档 → 文档解析 → 文本分块 → Embedding → 存储到向量数据库

文档解析：PDF、Word、HTML、Markdown，各种格式都要能处理。特别是 PDF，里面有表格、图片、多栏布局，解析起来很头疼。我在这块上吃过不少苦头——有些 PDF 的表格解析出来格式全乱了，调试了好久才搞定。

文本分块（Chunking）：这是最关键的一步，也是我踩坑最多的地方。分块策略直接决定检索效果：

• 分太细：丢失上下文，回答不连贯
• 分太粗：超出 Embedding 模型限制，或者检索不精确
• 常见策略：按段落分、按句子分、按固定 token 数分、按语义分

我自己的经验是：先用固定长度（比如 512 tokens）做 baseline，然后根据实际情况微调。别一上来就搞复杂的语义分块，先把简单的做好。

Embedding：把文本块转成向量。选型要考虑：

• 维度：768D、1024D、1536D 等
• 语言支持：中英混合场景需要多语言模型
• 领域适配：通用模型 vs 垂直领域模型

存储：主流选择包括 Pinecone、Milvus、Weaviate、Qdrant、PGVector 等。我在项目里用的是 Qdrant，部署简单，Rust 写的性能也不错，文档也比较清晰。

3.2 查询阶段（Querying）

1

用户问题 → 问题改写/扩展 → Embedding → 向量检索 → 重排序 → 上下文组装 → LLM生成

问题改写（Query Transformation）：
用户的问法往往不完美。比如问”公司的年假政策”，可能需要改写成”年假有多少天？怎么申请？”才能检索到更相关的内容。

常用技巧：

• HyDE（Hypothetical Document Embeddings）：让 LLM 先生成一个假设的答案，然后用这个答案去检索
• 子查询分解：把复杂问题拆成多个子问题分别检索
• 多向量查询：一个问题生成多个 Embedding 去检索

向量检索：
不只是简单的 cosine similarity。实际生产中会用到：

• 近似最近邻（ANN）：HNSW、IVF 等算法
• 混合检索：向量相似度 + 关键词匹配（BM25）
• 过滤条件：按元数据过滤（比如只查某个部门、某个时间段的文档）

重排序（Reranking）：
向量检索速度快但精度有限。通常先召回 Top-K（比如 100 个），再用更精确的模型（比如 Cross-Encoder）重排序，选出最相关的 Top-N（比如 10 个）。

上下文组装：
把选中的文档片段按一定策略拼接成 Prompt。策略包括：

• 按相似度排序
• 按时间排序
• 按原文档顺序
• 递归摘要（如果文本太长）

3.3 生成阶段（Generation）

Prompt 模板通常长这样：

1
2
3
4
5
6
7
8

基于以下参考信息回答问题。如果参考信息不足以回答，请明确说明。

参考信息：
{context}

问题：{question}

答案：

进阶技巧：

• 引用标注：让 LLM 在答案中标注信息来源
• 多轮对话：维护对话历史，支持追问
• 拒绝回答：当检索结果不相关时，让 LLM 拒绝回答而不是胡说

四、关键技术深度解析

4.1 Embedding 选型指南

Embedding 模型是 RAG 的基石。选错了，后面再怎么优化都白搭。

主流模型对比：

选型建议：

1. 英语场景：OpenAI 的 text-embedding-3 系列或开源的 E5
2. 中文场景：BGE-m3 或 GTE-large
3. 成本敏感：考虑开源模型 + 本地部署
4. 领域垂直：在通用模型基础上做微调

4.2 向量数据库怎么选

我调研过市面上主流的向量数据库，给你个对比：

托管服务：

• Pinecone：开箱即用，功能全，但贵
• Weaviate：开源 + 托管，支持复杂查询
• Zilliz Cloud：基于 Milvus，适合大规模

开源自托管：

• Milvus：功能最全，支持分布式，企业级首选
• Qdrant：Rust 写的，性能不错，部署简单
• Chroma：轻量级，适合本地开发和 POC
• PGVector：PostgreSQL 插件，已有 PG 基础设施的首选

选型建议：

• 快速验证：Chroma 或 PGVector
• 生产上线：Milvus（大规模）或 Qdrant（中小规模）
• 不想运维：Pinecone 或 Zilliz Cloud

4.3 Chunking 策略实战

Chunking 可能是 RAG 里最容易被忽视，但又最关键的环节。

常见策略：

1. 固定长度：每 500 个 token 切一刀

   • 优点：简单
   • 缺点：可能切断语义

2. 按段落：以换行符为界

   • 优点：保持段落完整性
   • 缺点：段落长度差异大

3. 递归字符：先按段落，段落太长再按句子，句子太长再按固定长度

   • 优点：兼顾语义和长度
   • 缺点：复杂度高

4. 语义分块：用模型识别语义边界

   • 优点：最智能
   • 缺点：计算开销大

Overlap（重叠）技巧：
相邻 chunk 之间保留一部分重叠内容（比如 10-20%），避免关键信息被切分。

Metadata 标记：
每个 chunk 要保留元数据：

• 来源文档 ID
• 章节标题
• 页码
• 时间戳

这些 metadata 对过滤和溯源都很重要。

五、Advanced RAG：不止于基础玩法

基础 RAG 解决的是”有没有”的问题，Advanced RAG 解决的是”好不好”的问题。

5.1 Self-RAG：让模型自己判断要不要检索

传统 RAG 的问题是：不管问题需不需要查资料，都先检索一遍。这会导致：

• 浪费计算资源
• 引入无关信息，反而影响生成质量

Self-RAG[^2] 的思路是：让 LLM 自己判断「需不需要检索」。模型在生成每个 token 时，可以决定：

• Retrieve：去查资料
• Generate：直接生成
• Critique：评估生成质量

5.2 Corrective RAG：检索质量不好就换策略

CRAG[^3] 的思路是动态调整检索策略：

• 如果检索结果置信度高 → 正常生成
• 如果置信度低 → 用 web search 补充
• 如果相关性一般 → 对检索结果做精炼

5.3 Multi-hop RAG：多跳推理

有些问题需要多步推理。比如问”公司 A 的 CEO 的母校的校训是什么”，需要：

1. 先查公司 A 的 CEO 是谁
2. 再查这个人的母校
3. 最后查校训

Multi-hop RAG 就是递归地进行「检索-生成-再检索」。

5.4 GraphRAG：结合知识图谱

GraphRAG[^4] 把向量检索和知识图谱结合起来：

• 用 LLM 从文档中提取实体和关系
• 构建知识图谱
• 查询时先在图谱里找相关实体，再检索相关文档

这种方法对复杂关系的问题效果更好。

六、RAG 评估：怎么知道你的系统好不好

RAG 最难的不是做出来，而是知道做得好不好。

6.1 评估维度

检索质量：

• 命中率（Hit Rate）：正确答案是否在 Top-K 里
• MRR（Mean Reciprocal Rank）：正确答案的平均倒数排名
• NDCG：考虑排序位置的加权指标

生成质量：

• 相关性（Relevance）：答案是否回答了问题
• 忠实度（Faithfulness）：答案是否基于检索内容，有没有幻觉
• 上下文精确率/召回率：用了多少检索到的内容

6.2 评估方法

人工评估：

• 最准，但最贵
• 适合小数据集和关键案例

自动评估：

• 用 LLM 当评委：让 GPT-4 来打分
• 指标计算：Ragas[^5] 等框架提供了自动评估能力

A/B 测试：

• 生产环境里最靠谱的评估方式
• 看用户满意度、任务完成率等业务指标

6.3 Ragas 框架介绍

Ragas 是一个专门用于 RAG 评估的框架，提供了：

• Context Precision：检索的上下文中有多少是相关的
• Context Recall：回答问题需要的上下文有多少被检索到了
• Faithfulness：答案是否被上下文支持
• Answer Relevancy：答案是否相关

使用示例：

1
2
3
4
5
6
7

from ragas import evaluate
from ragas.metrics import faithfulness, answer_relevancy

result = evaluate(
    dataset,
    metrics=[faithfulness, answer_relevancy]
)

七、生产落地的坑与解法

7.1 幻觉问题依然严重

RAG 能显著减少幻觉，但无法完全避免。常见情况：

• 过度综合：LLM 把多个片段的信息错误组合
• 无中生有：当检索结果不够时，LLM 会脑补

解法：

• 在 Prompt 里明确要求”只基于提供的上下文回答”
• 设置拒绝回答的阈值
• 对关键信息做事实核查

7.2 上下文窗口限制

GPT-4 有 128K 上下文，Claude 有 200K，但：

• 检索结果多了，成本飙升
• 长上下文下注意力分散，关键信息容易被淹没

解法：

• 限制检索结果数量（比如 Top-5）
• 对长文档做摘要后再检索
• 使用 Map-Reduce 策略：分别处理多个片段，再综合答案

7.3 性能优化

RAG 涉及多个环节，延迟容易失控。

优化策略：

• 并行化：Embedding 和检索可以并行
• 缓存：常见问题直接返回缓存结果
• 流式输出：LLM 生成时边生成边返回
• 索引优化：预计算常用查询的检索结果

7.4 多租户隔离

企业场景下，不同用户/部门只能访问自己的文档。

解法：

• Metadata 过滤：查询时加过滤条件
• 命名空间隔离：不同租户用不同的 collection
• 权限系统：检索前做权限校验

八、RAG 的典型应用场景

8.1 企业知识库问答

最常见的场景。把公司内部文档（产品手册、技术文档、规章制度等）做成 RAG 系统，员工可以随时提问。

关键点：

• 文档格式多样，解析要 robust
• 权限控制复杂
• 需要支持多轮对话和追问

8.2 智能客服

替代传统 FAQ，基于产品文档自动生成回答。

关键点：

• 需要接入工单系统
• 对回答准确率要求高（不能乱说）
• 复杂问题要能转人工

8.3 代码助手

基于代码库做问答，比如”这个函数是做什么的”、”怎么使用这个 API”。

关键点：

• 代码 Embedding 需要专门模型
• 要处理代码的上下文关系（import、继承等）
• 可能需要结合 AST 分析

8.4 法律/医疗问答

专业领域的问答，对准确性要求极高。

关键点：

• 领域知识库建设成本高
• 需要可解释性（引用来源）
• 合规要求严格

九、技术选型与架构建议

9.1 完整技术栈推荐

入门版（快速验证）：

• LangChain / LlamaIndex：RAG 框架
• OpenAI API：Embedding + LLM
• Chroma：向量数据库
• 预计开发时间：1-2 周

生产版（企业级）：

• 自研 Pipeline：更灵活可控
• BGE / GTE：开源 Embedding
• Milvus / Qdrant：自托管向量数据库
• vLLM / TGI：LLM 推理服务
• 预计开发时间：2-3 月

9.2 框架选择：LangChain vs LlamaIndex

LangChain：

• 生态最全，集成最多
• 灵活性高，可以深度定制
• 学习曲线较陡

LlamaIndex：

• 专注 RAG，抽象层次更高
• 数据连接能力强
• 上手更快

我的建议：

• 快速原型：LlamaIndex
• 深度定制：LangChain
• 大规模生产：自研 Pipeline

十、总结与展望

RAG 从 2020 年的一个学术概念，发展到现在成了企业 AI 落地的标配方案。它的价值在于在不对 LLM 做微调的情况下，让模型具备特定领域的知识。

但这不意味着 RAG 就是银弹。实际落地中你会发现：

1. 数据质量决定天花板：再强的 RAG 也救不了烂数据
2. 评估比实现难：怎么知道好不好，比怎么做更难
3. 维护成本不低：数据更新、索引重建、模型迭代都是持续工作

未来趋势

RAG 2.0 / Agentic RAG：
RAG 不再是静态的「检索-生成」，而是让系统能主动决策：

• 需不需要检索？
• 检索几次？
• 如何验证结果？

这其实就是 Agent 化的 RAG。

多模态 RAG：
不只是文本，图片、视频、音频也能检索。比如问”视频里讲了什么”，系统能直接检索视频内容。

端到端优化：
现在 Embedding、检索、生成是分开优化的。未来可能会出现端到端训练的 RAG 系统，整体优化。

参考资源

学术论文

[^1]: Lewis, P., et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. NeurIPS 2020.

• Meta/Facebook Research: https://research.facebook.com/publications/retrieval-augmented-generation-for-knowledge-intensive-nlp-tasks/
• arXiv: https://arxiv.org/abs/2005.11401

[^2]: Asai, A., et al. (2023). Self-RAG: Learning to Retrieve, Generate, and Critique through Self-Reflection.

• arXiv: https://arxiv.org/abs/2310.11511

[^3]: Yan, S., et al. (2024). Corrective Retrieval Augmented Generation.

• arXiv: https://arxiv.org/abs/2401.15884

[^4]: Edge, D., et al. (2024). From Local to Global: A Graph RAG Approach to Query-Focused Summarization.

• arXiv: https://arxiv.org/abs/2404.16130

[^5]: Ragas: Automated Evaluation Framework for RAG.

• GitHub: https://github.com/explodinggradients/ragas

官方文档与指南

• AWS RAG 概述: https://aws.amazon.com/what-is/retrieval-augmented-generation/
• AWS RAG 最佳实践: https://docs.aws.amazon.com/prescriptive-guidance/latest/writing-best-practices-rag/introduction.html
• Vectorize 元数据理解: https://docs.vectorize.io/build-deploy/data-pipelines/understanding-metadata/

技术博客与教程

• Tensorlake - RAG 引用标注: https://www.tensorlake.ai/blog/rag-citations
• Firecrawl - 最佳向量数据库对比: https://www.firecrawl.dev/blog/best-vector-databases
• DeepLearning.AI - 高级 RAG 构建与评估: https://www.deeplearning.ai/short-courses/building-evaluating-advanced-rag/
• DeepLearning.AI - Agentic RAG: https://www.deeplearning.ai/short-courses/building-agentic-rag-with-llamaindex/

视频资源

• KodeKloud - Complete RAG Tutorial 2026: https://www.youtube.com/watch?v=vT-DpLvf29Q

学术案例研究

• JMIR AI - 医疗领域 RAG Chatbot 研究: https://ai.jmir.org/2025/1/e75262/PDF
• UNIPD Thesis - RAG 相关研究: https://thesis.unipd.it/handle/20.500.12608/74379

延伸阅读：

• AI Agent 架构深度解析：原理、模式与生产落地
• Agentic 入门：让 AI 不再一把梭，而是像人一样反复干活
• MCP 协议：让 AI 工具链标准化的野心与落地

这篇是我最近准备搭 Agent 时整理的学习笔记。它和上一篇 《Agentic 入门：让 AI 不再一把梭，而是像人一样反复干活》 是一个系列：上一篇偏“怎么上手”，这一篇偏“底层怎么运转、上线怎么落地”。

最近我想给自己的工作流做一套 Agent，结果第一周就被现实教育了：这事远不只是“写个提示词模板”那么简单。

真动手之后你会发现，问题全在工程细节里。记忆怎么分层存储？任务队列怎么调度？循环什么时候该停？状态怎么恢复？这些都决定了系统是“能跑 Demo”，还是“能稳定跑在生产上”。

最不适应的一点是，传统软件那套确定性思维在这里会失灵一大截。以前写业务代码，if-else 写完，流程基本可预期；现在很多控制流是 LLM 在运行时动态决定的，排错方式也完全变了。

所以这篇我会把最近研究的几条主线串起来：Andrej Karpathy 的 LLM OS 视角、BabyAGI 的循环架构、以及 LangGraph 的状态机模式。目标很简单：把我自己踩坑后想明白的东西讲清楚，也给正在做 Agent 的你一个可复用的分析框架。

一、核心概念深度辨析：Agent 与 Agentic

先说我自己这次最大的认知纠偏：Agent 是”系统实体（名词）”，而 Agentic 是”设计模式与工作流（形容词）”。

1. Agent（智能体）：基于大语言模型操作系统（LLM OS）的计算实体

Agent 不仅仅是一个高级聊天机器人，而应该被视为一种具备拟人化特征的数字实体（People Spirits），或者说是基于大语言模型操作系统（LLM OS）运行的一台新型计算机^4-6。在 LLM OS 的宏观架构中：

• CPU（中央处理器）： 大语言模型（LLM）本身负责指令处理、推理与决策^{5, 7}。
• RAM（内存/工作记忆）： 模型的上下文窗口（Context Window）。这是一种短期的工作记忆，LLM 在此编排内存与计算以解决问题^{7, 8}。
• 外设与接口（Tools）： Agent 可以通过工具调用与数字世界的外部基础设施交互，例如访问文件系统、运行代码沙箱或调用网络浏览器^{5, 9, 10}。

2. Agentic Workflow（智能体化工作流）：告别 Zero-shot 的迭代范式

吴恩达（Andrew Ng）指出，传统上我们主要以”零样本（Zero-shot）”模式使用 LLM，即提示模型逐字生成最终输出而不进行任何修改。这很像要求一个人从头到尾敲击键盘写文章，全程不允许按退格键¹¹。

Agentic 工作流是一种引入迭代循环（Loop）的系统方法论。 它允许系统像人类工程师一样：规划大纲 -> 决定是否需要网络搜索 -> 撰写初稿 -> 审查初稿中的逻辑漏洞 -> 结合审查结果继续修改¹²。

二、Agent 的底层架构与运行机制

要理解 Agent 的底层架构，我们得先抛弃”它只是个聊天机器人”这个视角，把它当成一台基于自然语言指令运行的新型计算机。

2.1 宏观架构：大语言模型操作系统（LLM OS）

前特斯拉 AI 总监 Andrej Karpathy 提出了理解 Agent 架构的最佳抽象模型：LLM OS（大语言模型操作系统）。在这个架构中：

2.2 核心模块拆解（以经典 Agent 为例）

如果剥开代码看，一个标准的自主运行 Agent（例如早期 BabyAGI 或现代框架的核心模块）通常由以下几个核心组件（Components）构成：

1. 大语言模型控制器（LLM Controller）

这是整个系统的大脑。它接收系统提示词（System Prompt），明确当前的角色设定、可用工具列表以及输出格式（通常为 JSON），以此将自然语言转化为结构化的机器动作。

2. 记忆管理系统（Memory System）

• 短期记忆： 通常由开发框架（如 LangChain/LangGraph）维护当前的对话历史或近期几步的操作日志。
• 长期记忆： 当任务周期极长时，框架会将之前的操作结果转化为”向量嵌入（Embeddings）”，存入向量数据库。当 Agent 执行新任务时，系统会通过”语义搜索（Semantic Search）”提取最相关的历史经验，拼接进当前的上下文中供 LLM 读取。

3. 工具与环境接口（Tool Integrations / Harness）

LangChain 创始人 Harrison Chase 强调，现代 Agent 的强大来源于强大的“脚手架（Harness）”。这包括预置的工具函数。最核心的工具是文件系统（File System）访问权限，因为它可以让 Agent 把长篇的中间结果写入文件，而不是全部塞进上下文里导致内存溢出。

2.3 运行机制：死循环与状态机（The Loop & State Machine）

Agent 并不是”一口气”运行完的，它的底层是一个事件驱动的循环结构（Loop）。在工程实现里，主流运行机制大致有两种：

机制 A：经典的”三节点”死循环（如 BabyAGI）

BabyAGI 证明了只要三个 Python 脚本节点相互配合，就能让 Agent 无限期自主运转：

1. 任务执行节点（Task Execution）： 读取当前任务队列的第一个任务，结合向量数据库中的历史上下文，调用 LLM 执行任务，并保存结果。
2. 任务创建节点（Task Creation）： 观察上一步的执行结果，调用 LLM 判断”为了实现总目标，接下来还需要新增什么任务？”，并将新任务丢进队列。
3. 任务优先级排序节点（Task Prioritization）： 调用 LLM 对现有的任务队列重新排序，清理冗余，决定下一步最该做什么。 这个循环（While Loop）会不断运转，直到任务列表清空或达到预设的终止条件。

机制 B：现代的图与状态机架构（如 LangGraph）

面对更复杂的企业级业务，简单的死循环难以控制。现代框架（如 LangGraph）将运行机制升级为有向图（Graph）和状态机（State Machine）：

• 节点（Nodes）： 代表具体的处理单元（可以是一个调用 LLM 的函数，也可以是执行 Python 代码的工具）。
• 边（Edges）： 包含条件判断逻辑（如 IF-ELSE）。基于当前节点返回的结果，决定数据流向下一个哪个节点。
• 状态管理（State Management）： 整个图共享一个全局状态（State）。每次循环都在更新这个全局状态，并自带持久化（Persistence）功能。这意味着当 Agent 运行到一半崩溃，或者遇到高风险操作需要”人类审批”时，程序可以暂停保存状态，之后再无缝恢复。

2.4 底层工程的终极挑战：上下文工程（Context Engineering）与执行轨迹（Traces）

当我们把上面这些模块拼起来后，运行逻辑会发生根本变化，这也是研发人员最需要适应的地方：

• 逻辑不再只存在于代码中： 传统软件的控制流（If-Else）写在代码里；但 Agent 的控制流很大一部分由 LLM 在运行时动态决定（具有不确定性）。
• 上下文工程（Context Engineering）决定成败： 决定 Agent 表现的，是每次循环调用 LLM 时，你在这个循环点（通过检索或状态机）给它组装了什么上下文。如果塞入的信息太多，LLM 会忘记关键指令；如果太少，它会产生幻觉。
• 排错（Debug）依赖执行轨迹（Traces）： 在传统开发中，出 Bug 了我们看代码；但在 Agent 开发中，当系统在第 14 步失败时，看代码毫无用处，因为你需要知道前 13 步它往上下文（Context）里塞了什么。因此，记录每一步提示词、输入和输出的执行轨迹（Traces） 取代了源代码，成为了 Agent 开发中测试和调试的“唯一真相来源”。

三、驱动系统运转的核心：四大 Agentic 设计模式

在底层循环与状态机之上，真正让 Agent 表现出”智能感”的，是吴恩达总结的四种核心 Agentic 设计模式（Design Patterns）²⁴：

1. 工具使用（Tool Use）

赋予 LLM 网络搜索、代码执行等外部函数调用能力，以收集信息或处理数据²⁴。

2. 规划（Planning）

面对复杂目标时，LLM 能够自主提出并执行一个多步计划²⁴。

3. 反思（Reflection / Self-Correction）

强迫 LLM 检查自身的输出，发现缺陷并提出改进方案²⁴。例如，在缓解模型幻觉的研究中，Chain-of-Verification (CoVe) 强制模型生成验证问题并自我审查，而 Self-Refine 则采用”生成 -> 反馈 -> 改进”的迭代框架扮演自我批评者的角色^{25, 26}。

4. 多智能体协作（Multi-agent Collaboration）

实例化多个不同的 AI 角色，通过分担任务和相互辩论，得出比单一 Agent 更优的解决方案²⁴。

四、研发视角的范式转换：开发 Agent 与传统软件的区别

LangChain 创始人 Harrison Chase 指出，构建 Agent 会显著改变传统软件工程的一些基本常识²⁷。

1. 逻辑存在于模型中（非确定性系统）

传统软件的逻辑被硬编码（Hard-coded）在代码中，开发者可以确切知道程序的流向；而在 Agent 中，程序的控制流是由大模型在运行时基于上下文动态涌现的，具有高度的黑盒性和不确定性^{27, 28}。

2. “执行轨迹（Traces）”取代代码，成为 Debug 的唯一事实依据

由于 Agent 在循环中反复运行，当系统在第 14 步报错时，单看代码无法推断前 13 步 LLM 的上下文窗口里到底装载了什么²⁹。因此，详细记录每一步输入、输出、工具调用和状态变化的执行轨迹（Traces），取代了源代码，成为了开发者测试、排错（Debug）和团队协作的核心工具^{27, 30, 31}。

3. “脚手架（Harness）”与”上下文工程（Context Engineering）”决定成败

长周期 Agent（Long-Horizon Agents）的成败往往不仅仅取决于底层模型有多强大，更取决于开发者构建的 Harness（深度定制的脚手架体系）^{32, 33}。这包括内置的规划工具、处理超长文本的压缩（Compaction）策略，以及至关重要的文件系统访问权限（File System Access）^{9, 33, 34}。这一切本质上都是 “上下文工程（Context Engineering）”——即在 Agent 循环的每一个特定步骤，精准地为其上下文窗口注入最需要的记忆、工具结果和指引^{32, 35, 36}。

五、生产环境落地的终极指南

对于准备把 Agent 投入生产环境的研发团队，行业里有一个高度一致的共识：不要一上来就追求 100% 全自动（Fully Autonomous）。

1. 做好迎接”Agent的十年”的准备，它是一个”九的游行”

Andrej Karpathy 强调，目前行业处于”Agent的十年（Decade of Agents）”，而非所谓的一年³⁷。构建可靠的 Agent 与研发自动驾驶汽车极度相似：展示一个能解决 90% 问题的 Demo 非常容易，但要达到生产级别，需要经历漫长的”九的游行（March of nines，即追求 99.9% 到 99.99% 的极端可靠性）”^{38, 39}。

2. 定位为”初稿生成器（First Drafts）”

现阶段长周期 Agent 最杀手级的应用场景，不是直接交付最终结果，而是生成一份极具价值的”初稿”⁴⁰。无论是代码的 Pull Request、SRE 的日志诊断分析报告，还是客户支持的复杂调研，Agent 的作用是承担粗重的初期工作，然后交由人类审核与编辑^{40, 41}。

3. 保留”自主性滑块（Autonomy Slider）”

在产品设计（如 Cursor 或 Perplexity）中，必须赋予用户控制权^42-44。开发者可以选择只补全一行代码（Tap completion）、修改单个文件，或是让 Agent 放开手脚重构整个代码仓库，用户可以根据任务复杂度动态调整这种”自主性滑块”^{44, 45}。

4. 终极形态：环境智能体（Ambient Agents）与 智能体收件箱（Agent Inbox）

传统的基于聊天（Chat-based）的 Agent 受限于极高的延迟要求和一对一的交互瓶颈^46-48。未来的生产级落地形态将走向环境智能体（Ambient Agents）^{46, 49}。

• 事件驱动与异步执行： Ambient Agents 在后台静默运行，监听并响应事件流（如新收到的客户邮件、代码库提交、系统报警等）⁴⁶。由于没有即时聊天的延迟压力，它们可以执行包含数十次工具调用和复杂规划的深层任务^{48, 50}。
• 人类在环（Human-in-the-loop）与 Agent Inbox： 这种异步、高并发的运行模式绝不意味着失控。相反，系统必须设计一个类似”智能体收件箱（Agent Inbox）”的交互界面⁵¹。Agent 将执行到一半的高风险操作或半成品报告推送到收件箱中，人类在此进行审批（Approve）、编辑修改（Edit）、解答 Agent 的疑问（Answer），甚至进行”时间旅行（Time Travel，即回滚到之前某一步重新运行）”^{52, 53}。这不仅保证了业务的安全性，人类的纠错反馈也将作为记忆（Memory），驱动 Agent 系统的自我迭代与进化^{51, 54}。

六、当前实践：病历质量评估 Agent 的版本演进（从简单到复杂）

为了和前面的学习框架对齐，我把当前病历质量评估 Agent 的实现拆成四个版本。每一版都解决上一版暴露的问题，而不是一上来就做“大而全”。

V1：纯规则引擎（无 Agent）

最早版本只有确定性规则：字段完整性、格式约束、必填项检查。

1. 优点是稳定、可解释、上线快。
2. 缺点是只能发现“结构性问题”，看不懂跨段语义矛盾。

这一版对应本文里的“传统确定性系统”，适合作为基线能力。

V2：单 Agent 循环（引入 Agentic Workflow）

第二版把 LLM 接入到循环里，流程是：读取病历 -> 发现问题 -> 生成建议 -> 自检修正。

1. 能力明显增强，可以识别时间线冲突、表达不一致、潜在漏项。
2. 也暴露出典型问题：偶发幻觉、建议过于抽象、同类问题重复输出。

这一版验证了本文第二部分的结论：有循环就会有收益，但没有工程约束就会不稳定。

V3：图与状态机编排（从“能跑”到“可控”）

第三版把单循环改成状态机，拆成多个节点：

1. 输入结构化节点。
2. 规则校验节点。
3. 语义评估节点。
4. 证据绑定节点。
5. 报告生成节点。

每一步都有明确输入输出和状态落盘，支持暂停/恢复/重跑。
这一版对应本文的 LangGraph 思路，本质收益是“可观测、可回放、可定位”。

V4：生产化闭环（Human-in-the-loop + Traces）

当前线上思路是第四版：不是追求全自动判定，而是做“高质量建议系统”。

1. 高风险结论必须进人工审核收件箱。
2. 每条问题必须附原文证据和触发依据。
3. 全链路记录 Traces（上下文、模型输出、工具调用、状态迁移）。
4. 人工反馈回写，驱动下一轮提示词和规则优化。

这正好对应本文“上下文工程 + 执行轨迹 + 自主性滑块”的三条主线。

核心参考文章

1. 吴恩达 (Andrew Ng) —— Agentic 核心概念与设计模式

• AI Agents that Work - The Batch
• Opportunities in AI (2024年演讲)
• agentic-ai
  2. Lilian Weng (OpenAI) —— LLM Agent 架构百科全书
• LLM Powered Autonomous Agents

3. Andrej Karpathy —— LLM OS 系统愿景

• Intro to Large Language Models (视频)
• The “Loopy” Era of AI (Twitter/X)

4. BabyAGI —— 自主智能体先驱

• Birth of BabyAGI

• Better Ways to Build Self-Improving AI Agents

• Elements of AI Agents

先把结论放在前面。

我认为 AI+SaaS 和传统 SaaS 最本质的差异或者说核心关注点应该集中在三个地方：数据设计、人效提升方式、交付给客户的价值。

但这三件事有一个前提，先别急着聊 AI，SaaS 的基本功必须先做扎实。

前提：SaaS 基本功不扎实，AI 进来只会更乱

这话我是越来越信。

很多团队一引入大模型，心态就容易飘。总觉得以前没做好的地方，权限没理清、流程不稳定、数据结构乱，好像 AI 一进来能顺带解决。

实际上恰恰相反。

AI 不会替你补基本功，它只会把原来系统里的那些问题，放大得更快、更明显。

如果一个 SaaS 系统的业务流程本身就跑不顺，系统边界本身就模糊，那接上 AI 以后，输出的结果会更不可信，追溯问题会更难，整体更乱。

所以这件事我的顺序是：先把系统做好，深入了解以及解决客户基本的痛点问题，先把业务跑顺，再来谈 AI 怎么加。

别把顺序弄反了。

一、数据设计，不只是给人用了，还要给 AI 用

这是 AI+SaaS 和传统 SaaS 差别最大的地方之一，而且是很多团队最容易忽视的。

传统 SaaS 里，数据设计的诉求其实很清楚：

• 能支撑业务流程
• 能做增删改查
• 能出统计报表
• 能满足权限和审计

这些要求到今天依然成立，没什么可怀疑的。

但 AI+SaaS 多了另一层要求：

你设计出来的数据，不只是给系统存和查的，还要能被 AI 理解、检索、调用。

这一要求一进来，标准就变了。

拿一个典型的线下服务型业务来说，传统 SaaS 更在意的通常是：

• 客户档案能不能录进去
• 服务记录能不能查出来
• 收费能不能对上
• 报表能不能导出

但 AI+SaaS 还需要往前再走一步：

• 服务过程的内容能不能结构化
• 客户、服务类型、处理结果之间有没有稳定的关联
• 这些字段能不能支撑后面的摘要、推荐、风险提示

传统 SaaS 的数据更像是为业务流转服务的。

AI+SaaS 的数据要做两件事：既要支撑业务流转，也要支撑 AI 理解、检索和调用。

这就是为什么我说，很多团队问”要不要自己训模型”，问的方向其实偏了。

对大多数行业 SaaS 来说，真正有价值的不是模型的参数量，而是：

• 行业数据有没有结构化
• 字段语义清不清楚
• 对象之间的关系完不完整
• 历史记录好不好检索

这几个东西做扎实了，哪怕你接的是现成模型，AI 也能真正进入业务。

反过来，数据设计如果本身就散、乱、缺语义，换再强的模型，效果也不会有质变。

行业数据结构，才是垂直 SaaS 的护城河，不是模型参数。

二、提升人效，这才是 AI+SaaS 最直接的商业价值

很多人聊 AI+SaaS，喜欢聊技术能力、聊 Agent、聊多模态。

但我接触下来，客户真正关心的，往往比这朴实得多：

能不能少用几个人，或者让同样的人，把事情做得更多、更稳。

这件事在很多行业里都很具体。

拿一个高频服务场景举例，过去的流程大概是：

• 服务过程中手动记录，或者靠记忆
• 服务结束后手动录入系统
• 手动整理各个字段
• 手动生成跟进记录或报告

每一步都是人在做，每一步都可能出错，每一步都在消耗时间。

AI+SaaS 能做的，是把这个链条改成：

• 语音或对话自动转文字
• 自动抽取关键字段
• 自动生成服务记录草稿
• 自动同步到系统
• …

这不是把人换掉，而是把那些高频、重复、容易出错的动作，尽量自动化掉，让人能把精力放在真正需要判断的地方。

传统 SaaS 能做的，更多是给你一套在线的操作台，让这些动作在系统里完成，而不是纸上或者微信群里。

AI+SaaS 往前多走了一步：让系统替人分担一部分原本不得不做的工作。

这个价值很直接：

• 减少重复劳动
• 提升单人产出
• 降低遗漏概率
• 让服务质量更稳定

AI+SaaS 比传统 SaaS 进一步的地方，不只是管理效率，而是执行效率也开始被提起来了。

当然这件事有个前提。

AI 要能真正进入业务，必须有一层东西支撑：系统里的那些”技能”。

比如 AI 说要查某条历史服务记录，系统得真的有这个查询能力让它调；AI 说要生成跟进报告，系统得真的能写入并存档。

模型负责的是理解意图、生成内容。系统负责的是真正执行动作。

只有这两件事都做到位了，人效提升才是真实的，而不是停在 demo 层面。

三、交付价值不一样了：从交付功能，到开始交付结果

传统 SaaS 卖的东西，本质是：把业务流程搬进系统。

原来靠 Excel、靠微信群、靠纸张做的事情，变成线上化、标准化、可追踪。

这个价值到今天依然成立，依然有人在买单。

但 AI+SaaS 开始往前多走一步：

不只是把流程放进系统，而是把一部分结果做出来。

同样是一个服务场景，传统 SaaS 交付的是：

• 一套录入服务记录的表单
• 一套查询历史档案的功能
• 一套出报表的界面

AI+SaaS 交付的是：

• 服务结束，记录草稿已经生成好了
• 关键字段已经自动提取出来了
• …

客户买的，就不只是一套表单了。

他买的是”少填一堆表、少做一堆重复动作、事情还能推进得更快”这件事。

这就是交付价值的变化。

以前更像是交付功能。现在开始更像是交付结果。

当然这个结果交付，并不是一上来就能做到的。

它建立在：数据设计对了、系统能力封装好了、AI 工作流搭稳了，这三件事都就位之后，才能真正发生。

那要不要自己训模型？

顺带说一下这个经常被q到的问题。

我的判断比较直接：大多数行业 SaaS，一开始根本不需要训练自己的模型，甚至连微调都不用急。

理由很简单。

基础模型会越来越便宜越来越好用甚至可能会未来小参数的都能赶上现在大参数的模型，今天需要很高成本做的事，明年可能已经是基础设施。

你当前真正更稀缺的，不是模型参数，而是：

• 数据结构设计
• 行业 KnowHow
• AI 工作流设计
• 系统调用能力封装
• 成本控制

这几件事做扎实，接现成模型就已经够用了，而且可以替换，可以随时换更便宜、更强的模型进来。

等到数据量足够大、样本质量足够高、业务场景足够稳定，那时候再考虑轻量微调，顺序才是对的。

不是永远不做，而是不要一上来就做。

你不是 AI 公司，你是用 AI 做增强的行业 SaaS 公司。这两件事，差别很大。

最后

如果要我把 AI+SaaS 和传统 SaaS 的差别压缩成一句话：

传统 SaaS 帮客户把流程搬进了系统；AI+SaaS 要做到的，是在流程进了系统之后，还能把结果尽量做出来、把重复劳动尽量替掉。

但要做到这一步，要走的顺序是：

1. SaaS 基本盘先稳住
2. 数据设计为 AI 理解和检索打好基础
3. 系统能力封装好，让 AI 真正能做事
4. 人效提升有了数据支撑，才是真实的
5. 从交付功能，慢慢往交付结果走

这条路没有捷径。但每一步踩实了，护城河会越来越深。

📎 说明：这篇文章是我在准备搭agent时学习过程的整理跟 《Agentic 入门：让 AI 不再一把梭，而是像人一样反复干活》 一起整理的。按理说这篇应该更早发，但当时一直没整理顺，所以拖到了后面。内容还是以我自己的学习理解为主。

我最早注意到 Context Engineering（上下文工程），大概是在 Prompt Engineering 被聊得很热之后。

Context Engineering（上下文工程）最早接触是Prompt Engineering 概念火了一段时间之后。
在这之前好像AI应用开发的核心焦点一直是“提示词工程（Prompt Engineering）”。然而，随着大语言模型（LLM）从单次问答向能够自主运行的智能体（Agent）演进，上下文工程（Context Engineering）变得更加重要。

很多时候，真正决定模型表现的，不是你那句话写得漂不漂亮，而是它在那一刻到底看到了什么，没看到什么。
构建大语言模型应用，正在从“如何遣词造句写出完美的提示词”，转变为“如何配置上下文才能最大概率地生成模型所需的行为”。

一、先说问题：Prompt Engineering 到底卡在哪儿？

只要你认真用过一段时间 AI，大概率都会碰到这种情况：

你写了一个很长的 Prompt，感觉已经把话说明白了，结果模型要么没懂，要么回答得很飘。可你换个问法，它又突然正常了。

你开始怀疑：是我 Prompt 写得不好，还是模型本身忽强忽弱？

这个现象背后，其实是个更底层的问题：模型能不能干好活，很大程度上取决于它当下到底能看到什么。

Prompt Engineering 解决的是“怎么把问题问清楚”。这当然重要，但它管不了另一件更麻烦的事: 当你要处理的信息，已经不是一轮对话能装下的时候，该怎么办？

比如：

• 你有一本 500 页的技术文档，想让 AI 帮你答用户问题
• 你的系统里有十几个上下文来源（用户历史、实时数据、业务规则、代码片段……）
• 你的 Agent 要跑十几步任务，中间状态要一直传下去

到了这些场景里，“怎么问”就不是最核心的问题了，“怎么喂”才是。

这就是 Context Engineering 要解决的事。

二、那 Context Engineering 到底是什么？

Anthropic 的说法是，它可以看成是从 Prompt Engineering 往前走了一步《Effective context engineering for AI agents》，但两者盯的东西并不一样：

• Prompt Engineering：怎么写好这一句话
• Context Engineering：怎么组织整个信息环境

如果用我自己的话讲，后者更像是在做“信息架构”，你要决定：

1. 哪些信息该放进上下文
2. 这些信息按什么结构组织
3. 什么时机、以什么方式把它们喂给模型
4. 超出上下文窗口时，怎么选择性地保留和丢弃

这件事听起来像工程，不是因为这个词高级，而是它真的就是工程问题。它不是让你背几个提示词套路，而是要把整个信息流理清楚。

有一个比方我觉得很贴：

Prompt Engineering 是教你怎么跟一个人说话；Context Engineering 是在他开口之前，帮你决定他今天能看到哪些材料、能记得哪些背景、桌上摆的是什么资料。

三、它真正卡住的，不只是窗口大小，而是“注意力预算”

很多人第一次接触上下文工程，都会先盯着“上下文窗口够不够大”。

这个视角没错，但还不够。

但我现在越来越觉得，更准确的说法应该是：模型真正稀缺的，不只是 token 容量，而是注意力预算。

你可以把上下文窗口理解成模型工作的“临时内存”。窗口大，确实代表理论上能塞进去更多东西；但塞得进，不等于它就能稳定地理解、提取、关联这些内容。

这时候会出现一个很现实的问题：上下文腐烂（Context rot）。

说白了就是，上下文越长、信息越杂，模型越容易出现下面这些毛病：

• 前面明明给过规则，后面还是忘
• 中间插入很多工具输出后，开始抓不住重点
• 看起来“都读了”，但真正回答时只抓住开头和结尾
• 局部结论没问题，一到多步任务串起来就开始漂

所以 Context Engineering 的核心不是“拼命往里塞”，而是：用尽量少、但信号强的信息，占住模型最宝贵的注意力。

所以很多 AI 系统上线以后表现不稳，问题不一定出在模型不够聪明，很多时候就是上下文里混进了太多低信号内容。

四、底层是什么？先聊 Self-Attention

要真正理解”上下文”对模型意味着什么，绕不开一篇 2017 年的论文：《Attention Is All You Need》《Attention Is All You Need》，也就是提出 Transformer 架构的那篇。

它里面最核心的东西是 Self-Attention（自注意力机制）。

粗暴一点讲，模型在生成每一个词的时候，都会去“扫一眼”上下文里别的词，算一遍“谁跟我现在最相关”，再决定往下吐什么。

这意味着：模型的能力，很大程度上取决于窗口里装了什么。

你给它看的内容越准确、越有结构、越聚焦，它的注意力就越能集中在真正重要的部分。你塞一堆无关信息进去，它不会自动过滤掉，它只会”稀释”它的注意力。

所以“上下文工程”这件事，如果往底层追，本质上就是在跟 Self-Attention 的工作方式打交道。

五、系统提示词也有讲究：别太死，也别太飘

很多人一提上下文工程，第一反应还是去改 System Prompt。

这当然要改，但我现在觉得，问题通常不是“写得不够长”，而是写得那个劲儿不对。

我现在更认同一个判断：好的系统提示词，应该在“规则足够清楚”和“保留模型推理空间”之间找到平衡。

两个极端都不行：

• 写成 if-else 说明书，模型像被绑住手脚，遇到复杂情况反而不会变通
• 写得过于抽象，只说“请你专业、严谨、友好”，基本等于没说

我现在更倾向于把系统提示词拆成几个清楚的区块，比如：

• 背景信息：这个 Agent 是干什么的
• 目标：这次任务最终要达成什么结果
• 约束：哪些事情不能做，哪些风险要优先规避
• 工具说明：什么时候该调用什么工具
• 输出要求：最后结果要长什么样

你会发现，这时候你做的已经不只是“写一句提示词”了，而是在给模型搭一个小型运行环境。

六、RAG 里最容易踩的坑，Anthropic 想了个解法

现在很多 AI 应用都在做 RAG（检索增强生成）——就是把一堆文档切片，存进向量数据库，等用户提问时捞出相关片段塞给模型。

这条路当然没错，但里头有个很容易被忽略的问题：文档一切片，背景信息很容易丢。

举个例子：你有一份技术文档，里面有一段话：

“这个接口的超时时间配置建议设为 5 秒。”

这句话单独拿出来是完整的，但如果你不知道这是在说”内网服务调用”而不是”公网 HTTP 请求”，这条建议可能直接坑掉你。

Anthropic 在 2024 年提出了 Contextual Retrieval《Contextual Retrieval》 来解这个问题。核心思路其实不复杂：

在切片存储之前，先让模型给每个片段加一段 **”上下文注释”**，说明它来自哪个文档、属于哪个章节、要解决什么问题。然后把这个带注释的片段再做向量化。

这样检索出来的内容，就不只是一句话，而是“一句话 + 它原本待着的语义背景”，命中质量会明显好一些。

配合 BM25 关键字检索（而不是单纯依赖语义向量），精确度进一步提升。

简单来说：不是切得多就能捞得准，要让每一块碎片都知道自己是从哪来的。

七、真正有用的方式，不是预加载全部，而是按需取用

很多系统在早期都会很自然地走一条路：既然上下文重要，那就多塞一点。

比如：

• 用户资料全塞进去
• 历史对话全塞进去
• 检索结果 top 10 全塞进去
• 工具执行日志原样全塞进去

一开始看起来确实会有一种“信息很全”的安全感，但很快就会遇到两个问题：

1. 模型越来越贵
2. 模型越来越乱

更像样一点的做法，其实是 Just-in-time context，也就是“即时上下文”。

它的思路是：默认只保留索引、摘要、标识符，真正需要的时候再去取原文。

比如不要把整个代码库文档直接扔进上下文，而是先给模型：

• 文件路径
• 模块索引
• 函数签名
• 哪些文档可能相关

然后让它在任务执行过程中，通过检索、搜索、读取工具，一步步把真正需要的信息拿进来。

这种方式本质上是在做“渐进式披露”。不是一上来把整个图书馆砸给模型，而是先把目录递给它，再让它决定该翻哪几页。

这比一次性预加载所有材料，更接近人类真正工作的方式。

八、长任务为什么特别容易翻车？因为上下文会被历史污染

上面说的 Contextual Retrieval，主要解决的是“单次检索”的质量问题。但到了更复杂的 Agent 场景里，还会多出另一个麻烦：上下文不是一开始就完整的，它是任务跑着跑着一点点堆起来的。

多步 Agent 工作流最烦人的地方，不一定是某一步直接做错，而是前面做过的所有事，最后都会变成后面的上下文负担。

比如一个任务跑了二十几步之后，上下文里可能已经混着：

• 早期已经失效的假设
• 很长但价值不高的工具输出
• 中途试错留下来的噪音
• 真正关键但只出现过一次的结论

这时候问题就不是“窗口够不够”，而是历史信息正在污染当前决策。

所以长周期任务里，通常就得想办法处理这件事。常见做法大概有三类：

① 压缩（Compaction）

当窗口快满时，不是简单截断，而是把已经完成的阶段总结成高保真摘要，把冗长原始过程替换掉。

② 外部记忆（Structured note-taking / Agent memory）

把待办、关键决策、阶段性结论写到上下文窗口外，比如 NOTES.md、状态文件或者数据库。后续即使重新开一个新窗口，也能快速续上。

③ 子智能体隔离（Sub-agent）

把特别耗 token 的探索任务丢给独立子智能体去做，让它在自己的“干净窗口”里完成搜索、归纳，再把浓缩后的结论返回主智能体。

这三件事，本质上都在解决一个问题：别让历史细节一直赖在窗口里，持续污染当前判断。

九、Anthropic 的工程实践：XML 标签、工具边界和 Prompt Caching

具体到工程实践，Anthropic 在这篇文章里《Effective context engineering for AI agents》 给了几个我觉得挺接地气的抓手：

① XML 标签

当你需要在上下文里放多个来源的信息（用户资料 + 业务规则 + 代码片段 + 历史记录），用纯文本堆在一起，模型很容易把它们”混为一谈”。

用 XML 标签把它们显式分开，能让模型更清楚哪块是哪块：

1
2
3
4
5
6
7
8
9
10
11

<user_profile>
  用户是一个年营收 500 万的 SaaS 创业公司 CTO
</user_profile>

<business_rules>
  禁止直接推荐未上线的功能
</business_rules>

<user_query>
  我们应该怎么设计权限系统？
</user_query>

这玩意儿不是什么魔法，说白了就是把结构摆明白，别让模型自己猜。

② 工具边界要清楚

很多 Agent 失败，不是因为工具不够多，而是因为工具太多、定义太像、边界太模糊。

如果一个工具库里同时有：

• search_docs
• lookup_docs
• find_doc_context
• query_knowledge

那别说模型，人都得先愣一下。

我现在越来越觉得，工具其实就是模型和外部世界的契约。契约越清楚，模型越稳；契约越含糊，它越容易瞎试。

③ Prompt Caching（提示词缓存）

如果你的系统里有一段很长的固定上下文（比如一份 300 页的产品手册），每次用户提问都要把这段内容完整喂给模型，成本很高。

Prompt Caching 允许你把这段内容缓存在 API 层，后续调用直接复用，不重复计算。

这事看起来像纯工程优化，但很关键。因为它会直接决定：“长期带着一大坨稳定上下文工作”这件事，在成本上到底能不能成立。

十、Karpathy 的那个比喻：上下文窗口是模型工作的“临时内存”

在 OpenAI 前首席科学家 Andrej Karpathy 的一个演讲里《Software Is Changing (Again)》演讲，他把上下文窗口比作大模型的”有限内存”。

这个比方我觉得挺好懂：

模型本体里存的是”知识”，但它在干活时看到的，只有上下文窗口里的内容。超出窗口的东西，它看不见，也不存在。

这就是为什么：

• 你聊了很长一段时间之后，模型开始”忘事”
• 你让它处理一个超长文档，它只抓住了开头和结尾
• 你的多轮 Agent 任务执行到一半开始乱套

根本原因都一样：窗口装不下了，或者装的东西不对。

上下文工程要做的，说到底就是在这个有限空间里，把最该放进去的东西，用合适的方式放进去。

十一、整理一张表：四个角度看上下文工程

把这四个角度放在一起看，我自己现在的理解是，Context Engineering 其实横跨了四层：

• 模型层：注意力到底怎么分配
• 检索层：拿进来的资料到底准不准
• 工作流层：多步任务怎么传递状态
• 工程层：成本、延迟、缓存、工具契约怎么控制

也正因为它跨层，所以它不是一个“提示词小技巧”，而是 AI 系统设计里绕不过去的一部分。

十二、我目前的几个实际感受

老实说，我自己学这块之前，踩过的坑还真不少：

1. 把所有背景信息一股脑塞进 System Prompt。当时总觉得“多给一点总没错”，结果就是模型越来越飘。后来才明白，不是信息越多越好，是相关信息越准越好。

2. 以为 RAG 就是检索 + 拼接。直接切片、存向量、捞出来就完事。后来真碰到上下文断裂的问题，才意识到：片段不能只被捞出来，它还得“知道自己是谁、从哪来”。

3. 把 Prompt Engineering 和 Context Engineering 混在一起。一开始总觉得问题问对了就行，后来才发现，一到 Agent 场景里，“信息怎么组织”很多时候比“问题怎么问”更靠前。

4. 误以为长上下文天然更强。后来越做越发现，长上下文只是给了你“可以多放点东西进去”的机会，但如果没有筛选、压缩、分层和按需取用，它反而更容易把模型带偏。

说白了，上下文工程是软件工程在 AI 时代的一个延伸——你不只是在写 Prompt，你在设计信息流。

结尾

这篇还是偏学习整理，没有往代码实现那层展开太多，主要先把我自己脑子里这套概念骨架搭起来。

如果你也在做 AI 应用，或者已经开始搭 Agent / AI 系统，我现在会更建议先盯住这几个问题：

1. 你给模型的，到底是不是“最小但高信号”的信息？
2. 你的检索结果，是不是保留了足够的背景语义？
3. 你的多步任务里，有没有一套压缩、记忆、续跑机制？
4. 你的工具和提示词结构，是否清晰到让模型不用猜？

这些问题如果没想清楚，模型就算再聪明，系统表现也还是会一阵一阵的。

Anthropic 最新发布了一篇关于长期运行 Agent 应用 Harness 设计的深度技术文章，作者是 Prithvi Rajasekaran。文章分享了如何通过多 Agent 架构（生成器+评估器）来突破传统单 Agent 的能力天花板，实现复杂应用的自主构建。

核心问题：为什么简单实现不够？

传统的单 Agent 实现会遇到两个关键问题：

1. 上下文焦虑（Context Anxiety）

随着任务时间增长，模型会出现”上下文焦虑”——在接近上下文限制时提前结束工作。虽然上下文压缩（compaction）可以延长会话，但无法给 Agent 一个干净的 slate。解决方案是上下文重置（Context Reset）：完全清空上下文窗口，通过结构化交接（handoff）让新 Agent 接手。

2. 自我评估偏差

当要求 Agent 评估自己的工作质量时，它们往往过于乐观——即使质量明显 mediocre，也会自信地给予好评。这在主观任务（如设计）中尤为明显。

解决方案：分离生成与评估

借鉴 GAN（生成对抗网络）的思想，将生成器（generator）和评估器（evaluator）分离。虽然评估器也是 LLM，但调校一个独立的 skeptical evaluator 比让生成器自我批评要容易得多。

前端设计实验

作者首先在前端设计领域验证这个思路。Claude 默认倾向于安全、可预测的布局，技术可用但视觉平庸。

四项评分标准

为了让主观质量可量化，作者制定了四项评分标准：

重点：Design Quality 和 Originality 权重更高，明确惩罚”AI slop”（紫色渐变+白卡片的典型 AI 生成模式）。

迭代循环

• 生成器创建 HTML/CSS/JS 前端
• 评估器通过 Playwright MCP 与页面交互、截图、评分
• 反馈回流给生成器进行下一轮迭代
• 运行 5-15 轮迭代，每轮 4 小时

惊人发现：在为一个荷兰艺术博物馆设计网站的第 10 轮迭代中，生成器完全推翻了之前的设计，重新想象为一个 3D 空间体验——CSS 透视渲染的方格地板、自由位置悬挂的艺术品、门洞导航而非滚动点击。这是单次生成从未见过的创意飞跃。

扩展到全栈开发

基于前端实验的经验，作者将其应用到全栈开发，构建了一个三 Agent 架构：

架构设计

Sprint 契约

在每次 sprint 前，生成器和评估器协商”sprint 契约”：明确定义”完成”的标准和可测试的行为。这弥补了用户故事与可测试实现之间的鸿沟。

对比实验

Prompt：创建一个 2D 复古游戏制作器，包含关卡编辑器、精灵编辑器、实体行为和可玩测试模式。

关键差异：

• 单 Agent 版本：布局浪费空间、工作流程僵化、核心游戏功能损坏
• Harness 版本：完整 viewport 利用、一致的视觉识别、AI 集成加速工作流、实际可玩的游戏

持续优化

移除 Sprint 结构

随着 Opus 4.6 发布（规划更仔细、更长任务保持、更好的代码审查和调试能力），作者尝试简化 harness：

• 移除 sprint 结构，让生成器连续运行 2 小时以上
• 评估器改为单次最终评估而非每 sprint 评估
• 保留 planner（防止生成器 under-scope）和 evaluator（捕获边缘 bug）

新实验：浏览器端 DAW（数字音频工作站）

• 运行 4 小时，$124
• 生成器连续运行 2 小时无需分解
• 评估器仍捕获关键缺陷：剪辑无法拖动、音频录制仅 stub、效果可视化不足

结论：评估器不是固定的是/否决策，而是取决于任务是否超出生成器独立可靠完成的边界。

核心启示

1. 模型能力边界决定 harness 复杂度：随着模型改进，某些假设可能过时，值得定期 stress test
2. 分解任务 + 专业化 Agent：复杂任务中，分解并应用专业化 Agent 能带来提升
3. 新模型发布时重新评估 harness：剥离不再关键的组件，添加新组件实现更大能力
4. 有趣 harness 组合的空间不会缩小：随着模型改进，空间会移动，AI 工程师的工作是不断找到下一个新颖组合

关键引用

“The space of interesting harness combinations doesn’t shrink as models improve. Instead, it moves, and the interesting work for AI engineers is to keep finding the next novel combination.”

“It is always good practice to experiment with the model you’re building against, read its traces on realistic problems, and tune its performance to achieve your desired outcomes.”

原文链接：https://www.anthropic.com/engineering/harness-design-long-running-apps

作者：Prithvi Rajasekaran (Anthropic Labs)

最近产品里想要集成业务 Agent，真动手之前我想先把底层逻辑搞清楚，但是深入了解 agent 之前我看到了：Agentic。

它跟 Agent 不是一回事。Agent 是具体的东西，比如一个能自主干活的 AI 助手；Agentic 是一种工作方式——让 AI 能规划、执行、反思、修正，在循环里反复迭代，而不是一问一答就结束。搞懂 Agentic，才知道 Agent 该怎么搭。

说白了，Agentic 不是让 AI 更会说话，而是让 AI 更像一个会反复干活的人。

这篇是我自己的学习整理，不聊实现细节，就想先把这件事用人话讲透。

一、先想明白，我们平时到底是怎么用 AI 的

吴恩达先生以前讲过一个很形象的比喻[^1]。

他说我们现在大部分人用大模型，其实还是 Zero-shot（就是不给任何示例、不做任何拆解，直接让它一把回答）模式。你扔一个 prompt 进去，模型从第一句一路吐到最后一句，中途没有停顿，没有修改，也没有回头看一眼自己写得对不对。

这件事像什么？

像你让一个人从头到尾写一篇文章，但中途不准按退格键。

你想想，这活儿正常人都干不好，更别说我们还指望 AI 一把出神作。

这也是为什么，我现在回头看，会觉得很多时候不是 AI 本身忽强忽弱，而是我们给它的工作方式，本来就有点反人类。
不是它不能干，而是你要求它一次性把所有事情都想对、写对、做对。

但真实世界里的高手不是这么干活的。

不管是写文章、做方案、查资料，还是写代码，正常流程基本都是：

1. 先想一下目标是什么
2. 拆几个步骤出来
3. 缺信息就去查
4. 先搞一个初稿
5. 回头检查漏洞
6. 发现问题再改一轮

这套动作，我们人类觉得理所当然；一到 AI 身上，很多人反而想跳过。

所以我现在理解的 Agentic，本质上就是把这套”人类本来就会的迭代过程”，重新装回 AI 的工作流里。

用一张图来看，差别其实一目了然：

左边就是我们现在大部分人用 AI 的方式：一问一答，结束。
右边是 Agentic 的方式：它会自己转圈，直到结果靠谱为止。

二、Agentic 到底是什么？这是我目前最顺的一句解释

如果非要让我先给自己留一句最顺口的人话解释，我会这么说：

Agentic 不是让 AI 更聪明，而是让 AI 不再只回答一次。

它会在一个循环里反复工作。

比如你让它写一份研究报告，它不是上来就闷头输出 3000 字，而是可能先做这些事：

• 先列提纲，确认应该从哪几个角度展开
• 判断哪些部分信息不够，需要联网搜索或者调资料
• 先写一个版本
• 再自己检查这一版有没有逻辑漏洞、重复废话或者证据不足
• 然后按发现的问题继续改

你看，这不就是一个稍微靠谱点的人在做事的样子吗？

这里最关键的，不是”会不会调用工具”，也不是”会不会写代码”，而是它终于不再被限制在”一次生成、不可回头”的模式里了。

这件事带来的提升，其实很夸张。

吴恩达先生他们测过一组数据，挺有意思的：

GPT-3.5 裸跑代码题只有 48% 正确率，但套上 Agentic 循环以后，直接拉到 95%。比 GPT-4 裸跑的 67% 还高一大截。（数据来自吴恩达 2024 年在 Sequoia AI Ascent 的演讲 Agentic Design Patterns[^1]）

我觉得这组数字最值得咂摸的地方，不是某个模型赢了，而是它说明了一件事：

工作流设计，在很多场景下，已经开始比”模型单次裸跑能力”更重要了。

以前大家拼谁的 prompt 写得玄。
现在越来越像在拼，谁更懂得给 AI 安排一个像样的工作流程。

三、我先把 Agentic 拆成四个最核心的招式

吴恩达先生后来把 Agentic 总结成四种常见设计模式[^1]。我自己的感受是，这四个词看起来有点学术，但翻译成人话之后，反而会一下子清楚很多。

先上一张全景图，让你对这四个模式的关系有个整体感觉：

graph TB
    MA[多智能体协作
把任务分给不同角色] --> PL[规划
拆任务、定顺序]
    PL --> EX[执行 + 工具使用
干活、调工具]
    EX --> RF[反思
回头检查、修正]
    RF -->|发现问题| PL
    RF -->|通过| OUT[输出结果]
    style MA fill:#e6f3ff
    style PL fill:#fff3e6
    style EX fill:#e6ffe6
    style RF fill:#ffe6e6

简单说就是：多个角色分工（多智能体） → 每个角色先想清楚再动手（规划） → 该查就查、该调就调（工具使用） → 做完回头看一遍（反思） → 不行就再来一轮。

1. 反思（Reflection）

一句话类比：写完作文自己通读一遍，删掉废话、补上漏洞。

就是让 AI 不要交卷就跑，而是看一眼自己刚刚写了什么。

有没有逻辑不通的地方？
有没有明显没回答到题？
有没有一堆正确但没用的废话？

这一步特别像我们自己写完文章后，隔两分钟再回来看，突然发现：

“这段说了等于没说。”
“这个论点站不住。”
“这里应该删，不然啰嗦。”

很多看起来”更聪明”的 AI 应用，往往不是第一次就答得特别神，而是多了一轮自我审稿。

2. 工具使用（Tool Use）

一句话类比：查字典、翻参考书，而不是全靠记忆硬撑。

AI 靠自己脑补，肯定有上限。
所以你得允许它出门干活。

比如：

• 去搜资料
• 读文件
• 跑代码
• 查数据库
• 调 API
• 调用外部系统

工具这件事，本质上是在补模型的”手脚”。
只有脑子，没有手脚，它很多事永远只能停留在嘴上。

3. 规划（Planning）

一句话类比：做菜之前先看一遍菜谱，别上来就开火。

规划说白了就是，别一股脑往前冲，先想一下顺序。

面对复杂任务，先拆，再干，效率会高很多。比如：

• 先定目标
• 再拆子任务
• 然后决定哪些任务要查资料，哪些任务可以直接写
• 最后再汇总

人一旦不规划，容易瞎忙。
AI 一旦不规划，容易一本正经地跑偏。

4. 多智能体协作（Multi-agent Collaboration）

一句话类比：一个人拍电影不如分工——导演、编剧、摄影各管各的。

这个词听起来很高级，实际你可以把它理解成”别让一个 AI 同时扮演所有角色”。

比如一个负责搜集资料，一个负责写初稿，一个负责挑刺，一个负责做最终汇总。
甚至它们之间还可以互相辩论。

这套思路的价值，不在于搞得多复杂，而在于：
不同角色的关注点本来就不一样，拆开之后，结果往往比一个 AI 一把梭更稳。

四、从会跑到跑得稳，还差这两样东西：Harness 和 Traces

上面四个招式看起来挺简单的对吧？但一旦真让 AI 跑起来，你马上会碰到两个问题：

1. 它跑偏了你怎么兜住？
2. 它跑偏了你怎么知道？

第一个问题，对应的是 Harness；第二个问题，对应的是 Traces。

Harness：给 AI 装上安全带和工具腰带

如果我只把 Agentic 理解成”让 AI 多跑几轮”，那其实只理解了一半。

LangChain 的 Harrison Chase 提过一个我很认同的点：今天很多 Agentic 系统之所以变强，不只是因为模型本身更好了，而是因为我们给它加了一套越来越完整的”外围设施”。

他管这个叫 Harness。说白了，就是你在让 AI 干活之前，先给它搭好的一整套工作台——什么工具能用、什么文件能动、上下文怎么喂、出了问题怎么回滚。

举个具体的例子：你让 AI 帮你写一段代码。如果是裸跑，它只能凭记忆硬编。但如果有了 Harness，它可以先读你项目里的现有代码（文件系统权限），记住你之前说过的偏好（记忆机制），按步骤拆解任务（规划能力），跑完代码自动测试（验证机制），测试没过就自动回退（回滚机制）。

这时候你就能理解，为什么现在很多团队开始讲 Context Engineering（上下文工程），而不只是讲 Prompt Engineering 了。

打个比方：如果 Prompt 是你跟 AI 说的那句话，那 Context Engineering 就是你在它开口之前，帮它把该看的资料、该知道的规则、该用的工具全部摆到桌面上。

这俩压根不是一个量级的事。

以前大家总想找一句神 prompt 包打天下。
现在越来越像搭一个工作台，把 AI 放进去之后，它每一步都有人给它递对工具、递对材料、递对约束。

Agentic 拼到后面，拼的不是一句提示词写得多花，而是谁更会给 AI 配环境、配反馈、配护栏。

Traces：给 AI 装上飞行记录仪

好，Harness 解决了”怎么兜住”。但还有个问题：AI 跑偏了，你怎么知道它是在哪一步开始偏的？

传统软件有个好处——代码基本就是规则本身，程序为什么这么跑，你顺着代码就能看明白。

但 Agentic 不一样。它不是一条固定路径跑到底，而是在循环里不断判断、选择、调用工具、修正方向。你第 14 步看到它翻车的时候，真正的问题很可能出在第 3 步，甚至第 1 步。

这时候最有价值的东西就不是”它最终输出了什么”，而是它每一步的操作日志——每一步看到了什么上下文、为什么做出这个判断、调了哪些工具、工具返回了什么、它是基于什么决定继续还是回退。

这些记录，就是 Traces（追踪日志）。

它特别像什么？像飞行记录仪。

平时你可能不看，但一旦出事，没有它你基本就是瞎猜。

所以我现在会提醒自己，未来如果真要在业务里落地 Agentic，不能只盯着”能不能跑通”。没有 trace 的系统，很多时候只是看起来能跑，一出问题你根本没法定位。

五、对我这种准备落业务的人来说，更现实的姿势不是全自动，而是”人类在环”

上图展示的是一个理想的自主智能体循环：任务执行 → 任务创建 → 优先级排序 → 继续执行，理论上可以无限循环直到目标达成。

但看到这里，我自己先记一个结论：

小白入门 Agentic，千万别一上来就追求 100% 自动驾驶。

这事听起来很性感，做起来经常很危险。

因为长链路任务一旦完全放飞，AI 很容易在你没注意的时候，往一个看似合理、其实已经偏掉的方向一路狂奔。

所以比”全自动”更现实的做法，是先把它当成一个很强的起草机、陪练和执行器。

比如：

• 帮你先起一个方案初稿
• 帮你做一版调研汇总
• 帮你把一堆需求整理成结构化任务
• 帮你先生成代码骨架和测试思路

然后关键决策点交给人来审。

我很认同一种说法，叫 Keep the AI on the leash。
翻译得粗暴点，就是：别把绳子撒手。

你要给它一定的自主性，但这个自主性必须可调。

它能跑，但你随时能：

• 看见它干了什么
• 拒绝它的修改
• 编辑它的中间结果
• 在关键节点让它停下来等你确认

这就是所谓的 Human-in-the-loop（人类在关键节点把关）。

它听起来好像”不够自动化”，但对真实业务来说，这反而是更成熟的状态。
因为信任不是靠宣传建立的，是靠”我看得见、控得住、改得回”建立的。

六、如果我后面真要往业务里落，起步大概率会先套这个最小闭环

说了这么多，最后落到实操，我觉得最适合我这种还在往业务里试的人，Agentic 起步姿势就先四步：

graph LR
    P[1. 规划
拆任务、定目标] --> E[2. 执行
搜资料、调工具]
    E --> R[3. 自我反思
挑刺、补漏]
    R --> H[4. 人类审核
关键节点拍板]
    H -->|需要修正| P
    H -->|通过| D[交付]
    style P fill:#fff3e6
    style E fill:#e6ffe6
    style R fill:#ffe6e6
    style H fill:#e6f3ff

1. 规划

先别急着让 AI 干活，先让它拆任务。

问清楚目标是什么，输出物是什么，哪些约束不能碰，哪些信息还缺。

2. 执行

该搜资料就搜，该读文件就读，该调工具就调。
这一步别只让它靠记忆硬编。

3. 自我反思

让它自己回头挑刺。
检查逻辑、补证据、删废话、找风险点。

4. 人类审核

关键节点必须有人拍板。
尤其是涉及代码变更、对外发布、客户沟通、业务决策的内容。

这四步看起来很朴素，但已经足够构成一个靠谱的 Agentic 最小闭环。

它真正打碎的，其实也是我自己之前对 AI 的一个幻觉：

不是”有没有一个神 prompt 能一次性解决问题”，而是”我能不能把问题组织成一个能不断修正的流程”。

这两个思路，差别非常大。

七、最后记一笔

如果我现在还把 AI 只当成一个高级搜索框，或者一个会写字的聊天机器人，那我大概率还没真正进入 Agentic 这套工作方式。

Agentic 的重点，从来不是”让 AI 更像人聊天”，而是”让 AI 更像一个可以在工作流里持续推进任务的执行者”。

它会规划，会调用工具，会回头反思，会在必要的时候把决定权交还给人。

我越来越觉得，接下来 AI 应用真正拉开差距的地方，不是大家都在拼模型参数，而是谁先把这套工作方式吃透。

毕竟现实里真正靠谱的人，也不是因为他永远第一次就做对。
而是因为他会：

• 先想清楚
• 再动手
• 做完回头看
• 发现不对就改

现在，只不过我们开始要求 AI 也这么干了。

参考与延伸阅读

[^1]: AI Agents that Work: Agentic Design Patterns - Andrew Ng, DeepLearning.AI

延伸阅读：

• LLM Powered Autonomous Agents - Lilian Weng (OpenAI)
• Intro to Large Language Models - Andrej Karpathy
• Birth of BabyAGI - Yohei Nakajima

引言

先说明一下，我不是专业架构师。

之前在上一家公司，我更多做的是一些模块和组件级别的设计。真正意义上从 0 到 1 去设计一整套 AI + SaaS 系统，这次算是第一次，而且第一版已经上线了。

所以这篇不是想讲什么大方法论，也不是想摆什么架构姿势。我就是想趁第一版刚做完、产品也刚上线这个节点，老老实实回头看一遍：这套架构到底哪里想对了，哪里其实一开始很容易想偏，后面又该往哪个方向继续长。

场景并不抽象，就是很实际的那种：

• 单机构起步，但架构上要预留多机构扩展能力
• 后续希望还能继续扩

最开始我脑子里也闪过很多“终局形态”的东西，比如实时音频、拾音器、边缘盒子、流式 ASR之类。但第一版真的做下来以后，我反而更确定，这事不能按“终局幻想”来起手。

因为我做的不是写一份 PPT，也不是画一个看起来很唬人的全景图，而是在想：第一次真把产品做出来并上线时，这版架构最该优先解决什么，最不该一开始就做什么。

所以这篇我不想从科普角度写，也不想从“终局方案”往回倒推，我就想站在“第一版已经做完并且上线了”这个节点上，回头复盘一下我对这套架构的几个真实判断，以及我对下一阶段的打算。

另外还有两个底层想法，第一版做完以后我也越来越确认。

一个是，架构这事基本不可能一开始就设计到终局。真要硬往“一步到位”去做，很多时候不是做重了，就是做偏了。
但反过来也不能只盯着眼前这点需求，完全不看后面，不然技术债很容易越滚越大。

所以我现在更认可的状态是：别做过度/超前设计，但也别把明天大概率会出问题的坑，当成今天看不见。别把技术债留得过多过重

另一个是，架构不能脱离业务自己玩。
对我来说，架构不是先设计一套很漂亮的东西，再让业务来适配它，而是业务走到哪一步，架构就支撑到哪一步，同时再比当前业务多想半步。

这样做的好处也很现实：

• 成本可控
• 业务更容易买单
• 系统后面也还能继续长

一、第一个判断：这玩意儿本质上还是 SaaS，AI 只是把架构重点改了

第一版做完以后，我反而更不认同一种说法，就是只要系统里带 AI，它就好像跟传统 SaaS 完全不是一类东西了。

在我看来，不是。

这套系统的底子，依然是一个标准的行业 SaaS。

如果不用那些太虚的词，只说我自己现在真正在想的东西，这套系统至少得先把这些基础问题想清楚：

• 多租户怎么做，集团、中心医院、诊所之间怎么分层
• 一个集团下面多门店怎么表达
• 权限模型怎么设计，总部、店长、医生、护士分别能看什么、做什么
• 宠物、主人、就诊、病历、经营数据这些核心对象怎么设计
• 门店在用的能力和总部在用的能力怎么拆，也就是服务边界怎么划
• 哪些数据共享，哪些数据隔离
• AI 和后面的第三方能力从哪里接进来

这些东西一个都跑不掉。

如果这些没打稳，AI 做得再花也没意义。因为用户最终买单的，还是一个能跑业务、能沉淀数据、能让总部和门店都用起来的系统。

而且这里还有一个我现在越来越重视的点：软件架构不能脱离业务目标单独存在。

我们做这套产品，不是为了做一个“功能很多的宠物行业工具箱”，而是希望软件能真正深入到客户的经营和日常管理里，最终达到两个目标：

1. 提升一线执行效率
2. 辅助决策

如果离开这两个目标去谈架构，很多设计最后都会变成自嗨。

而且第一版做完以后，我对“架构要跟业务一起迭代”这件事更有感觉了。

不是说业务提什么，技术就机械配合什么。
而是当前业务最需要什么，架构就先把这块支撑稳；等业务往前走了，架构再跟着长。

这样做最现实的好处就是，不容易一开始把系统做得过重，同时也不至于后面业务一变，系统马上顶不住。

但 AI 的加入，确实把架构重点改了。

传统 SaaS 更多是在处理确定性流程。
比如录入、查询、审批、结算、统计，这些本质上都是规则系统。

而 AI + SaaS 不一样的点在于，它把一个“结果不那么稳定”的处理环节塞进了原本稳定的业务链路里。

第一版做下来，我还是觉得这就是两者最大的区别。

不是多了一个模型服务，也不是页面上多了一个 AI 按钮，而是：

原来的系统主要是在执行确定规则，现在我要开始想办法把“不那么稳定的结果”稳稳地放进业务流程里。

这件事一旦成立，很多设计思路都会跟传统 SaaS 不一样。

二、第二个判断：AI + SaaS 和传统 SaaS 的区别，重点不在技术名词，在系统责任边界

我现在看这个问题，最核心的差异其实在责任边界。

传统 SaaS 的责任边界相对清楚：

• 前端负责采集输入
• 后端按规则处理
• 数据库存业务真相
• 报表系统做统计分析

只要规则是对的，系统结果通常就是可预期的。

但 AI + SaaS 不一样。

因为 AI 的结果很多时候不是“错或者对”这么简单，它经常是：

• 大方向对了，但细节不够稳
• 能生成，但格式不稳定
• 能抽取，但字段偶尔偏
• 没报错，但不好直接入库

所以我在做这类架构设计时，脑子里会比传统 SaaS 多一层问题：

1. AI 结果是不是业务真相？
2. 什么时候只能当草稿？
3. 谁来确认？
4. 错了以后怎么回退？
5. 怎么看它到底好不好用？

这几个问题如果不单独设计，AI 最后就很容易变成系统里一个“看起来高级，但责任全是人工兜底”的模块。

而且这里我现在回头看，除了“人工确认”本身，还少不了几件配套的事：

• 要有校验
• 要有留痕
• 要能审计
• 要知道是模型错了、流程错了，还是输入本身就有问题

再往业务上说得直白一点。

传统 SaaS 在大多数时候更像一个被动工具：

• 你录，我存
• 你查，我返
• 你点，我算

它的核心价值当然也很大，但更多是把业务流程线上化、结构化、可追溯化。

而 AI + SaaS 不一样的地方在于，它开始有机会从“被动响应”走向“主动参与”：

• 主动给出病历草稿
• 主动提炼摘要
• 主动发现异常点
• 主动给经营分析做提示
• 在规则允许的情况下，直接参与完成某个动作

第一版做完以后，我更确定这是一条很重要的分界线：

传统 SaaS 更像工具，AI + SaaS 更像会参与业务的助手。

它不只是把信息存起来，而是开始参与反馈、辅助决策，甚至在某些边界清晰的场景里直接把事情做完。

但这个前提一定是责任边界清楚，而不是把所有风险都重新甩回给人。

所以我现在回头看，第一版里最正确的一条原则就是：

AI 先做增强，不直接做裁决；先做草稿，不直接做真相。总之一定要预留口子让人工能参与到最终结果中

这也是我现在跟传统 SaaS 设计思路分叉最明显的地方。

三、第三个判断：第一次从 0 到 1 做这个产品，第一版最重要的不是实时，而是业务闭环

如果按传统软件思维，很容易觉得“架构高级”意味着实时、自动化、全链路采集。

但第一版做完以后，我反而更确认，第一次从 0 到 1 做这个产品，最重要的不是实时，而是闭环。

也就是说，我先要证明的是：

• 医生到底愿不愿意用 AI 结果
• AI 生成的病历草稿到底有没有实际价值
• 摘要、结构化抽取、辅助录入，这几个点哪个最值得先做
• 整个交互链路能不能跑通
• AI 的结果有没有真的进入经营与日常管理，而不是停留在“看起来挺聪明”

这些事情没跑通之前，我不太愿意一开始就把问题抬到“实时音频 + 设备采集 + 边缘节点”那个复杂度。

因为那样一来，系统的验证变量一下子就太多了。

我到时候都很难判断：

• 是 AI 本身没价值
• 还是采集方式不稳定
• 还是现场网络问题
• 还是硬件运维太重
• 还是门店根本不愿意配合

这种情况下，架构不是在帮我缩小问题，而是在帮我放大噪音。

现在回头看，我当时这个思路是对的：

第一版先做最小业务闭环，先证明 AI 在软件链路和管理链路里能成立，再考虑它在硬件链路里值不值得做深。

四、第四个判断：第一版不上拾音器，也不上边缘盒子，这个取舍我现在依然认

第一版做完以后，我依然觉得这个取舍是对的。

不是说以后一定不做，而是第一版确实不该这么起手。

说到底，这也是“架构逐步演进”这件事在我这个项目里的一个具体体现。

如果我一开始就按终局形态去堆，很可能会显得我想得很多，但真正落到第一版，成本不一定扛得住，业务也未必真买单。
但如果我只顾着先上线，完全不看后面，那等门店一多、数据一上来、链路一拉长，系统也会很快露出问题。

所以这里最难的其实不是选“重”还是“轻”，而是拿捏这个度。

原因很现实。

1. 这不是当前最核心的验证点

我第一版最想验证的，就是 AI 在病历生成、摘要提炼、结构化录入这些环节到底能不能形成价值。

而拾音器和边缘盒子，解决的是更后面的工程化问题：

• 自动采集
• 弱网缓存
• 实时流处理
• 多门店部署一致性
• 硬件和云端协同

这些当然重要，但它们不是当前第一性问题。

2. 一上硬件，复杂度会成倍上升

一旦加上硬件，我要额外处理的事情太多了：

• 设备安装
• 门店网络环境
• 音频质量
• 远程运维
• 故障排查
• 升级策略

而这些问题跟“AI 到底有没有产品价值”并不是一回事。

如果第一版就把它们全绑在一起，我很可能会把项目节奏拖慢。

3. 边缘盒子更像后续规模化阶段的优化件，不像我当前第一版的必需件

现在回头看，我对边缘盒子的判断还是没变：它更像是当业务跑起来以后，为了解决稳定性、缓存、补传、弱网和成本问题，才逐步变得必要的组件。

也就是说，它更偏工程放大器，而不是第一版价值验证器。

所以至少在第一版阶段，我没把它当默认配置。

五、第五个判断：第一版更应该先长成一个“带 AI 助手能力的 SaaS”，而不是“AI IoT 系统”

这是我第一版做完以后非常清晰的一个分界线。

如果按我现在回头看的思路，第一版更像一个带 AI 助手能力的 SaaS，而不是一个带重硬件形态的 AI 系统。

我第一版其实就是更倾向先用现有的软件入口去做输入：

• 医生手工录入问诊信息
• 医生或前台上传录音文件
• 问诊后补一段文字摘要
• 结合既有病历和检查结果补上下文

然后 AI 先做这几件事：

1. 生成病历草稿
2. 生成问诊摘要
3. 抽结构化字段

这里我最看重的，不是“炫”，而是架构能不能形成一个清晰闭环：

1
2
3
4
5
6
7

业务输入
  -> AI任务创建
  -> 上下文装配
  -> 模型处理
  -> 结果生成
  -> 医生确认
  -> 回写正式业务数据

只要这个闭环能稳定跑通，这个 0 到 1 的第一版就能积累很多非常关键的东西：

• 什么输入最有效
• 什么场景采纳率高
• 医生改动最多的是哪部分
• 结构化抽取最容易错在哪
• 单次任务的成本大概多少

而第一版上线以后，我也确实开始更清楚地看到了一个更重要的经营问题：

• 这套系统到底是在帮客户“省时间”
• 还是在帮客户“提质量”
• 还是已经开始帮客户“做判断”

这些数据，在我看来比第一天就把拾音器装进诊室更有价值。

六、第六个判断：这套架构和传统 SaaS 的真正区别，是要单独设计 AI 任务层，后面再看要不要长出辅助经营判断的能力

如果这事只是传统 SaaS，我的主线大概就是：

1

前端 -> API -> 业务服务 -> 数据库

但现在因为有 AI，这个链路在我脑子里已经不是这么简单了。

我在第一版里专门抽了一层出来，承接 AI 相关逻辑。

也就是我这里说的 AI 任务层。

这一层至少要管这些事情：

• 什么时候创建 AI 任务
• 任务吃哪些上下文
• 调哪个模型
• 模型返回后怎么校验
• 结果是进入草稿态还是直接丢弃
• 有没有失败重试
• 怎么记录状态

说白了，这一层不是简单转发一下请求，而是把业务上下文、模型能力、状态流转、校验逻辑和人工确认流程串起来。

这层如果不抽出来，AI 逻辑最后就会散在各个业务模块里。

到时候最麻烦的不是代码丑，而是：

• 你根本说不清 AI 到底在哪儿影响了业务
• 你很难统一做评测
• 你没法统计成本
• 你也没法稳定优化效果

所以第一版做完以后，我更明确了一件事，AI + SaaS 和传统 SaaS 的关键架构差异之一，就是：

传统 SaaS 的主干是业务服务层，AI + SaaS 需要在业务服务层之外，再长出一层 AI 任务层。

这层不是附属物，是骨架的一部分。

而且从上线后的视角看，这层不只是为了“把流程串起来”，它本质上还承担了稳定性和兜底职责。

至少在我现在的理解里，这一层后面一定要逐步补齐这些能力：

• 用状态机管理任务流转，而不是靠 if else 到处补
• 幂等处理，避免重复提交、重复执行
• 失败重试，但不能无限重试
• 超时控制，避免模型调用把主链路拖死
• 降级策略，模型不稳定时至少不能把核心业务流程卡住
• 可观测性，要能看到任务卡在哪一步、失败在哪一步

说白了，AI 任务层不只是“调一次模型”，它后面其实是一个带容错和兜底能力的处理链路。

而且我现在已经能感觉到，到了下一阶段，光有任务层可能还不够，后面很可能还会自然长出一块专门做经营分析、异常提醒、辅助判断的能力。

因为一旦系统开始服务经营和管理，它就不能只停留在“帮你生成一段文字”，而要开始回答这些问题：

• 这家门店最近的复诊率有没有异常
• 哪类服务项目转化更差
• 哪个医生的病历质量波动比较大
• 哪些经营动作值得提醒

到那个阶段，AI 的价值就不再只是内容生成，而是开始进入经营反馈和辅助决策。

七、第七个判断：第一版里，AI 结果不能直接等于业务真相，但下一阶段它可以逐步参与执行

这一点我现在回头看，基本还是不会妥协。

因为只要 AI 结果直接落正式数据，系统就会立刻变得很危险。

尤其在这种医疗相关场景里，我现在还是更倾向于把 AI 结果定义为：

• 草稿
• 建议
• 候选结果
• 辅助结构化信息

而不是最终记录。

所以第一版里，我实际更愿意让系统变成下面这种关系：

1
2
3
4
5
6

flowchart TD
    A["SaaS业务输入"] --> B["AI任务层"]
    B --> C["模型处理层"]
    C --> D["草稿结果层"]
    D --> E["医生确认/修订"]
    E --> F["正式业务数据"]

这里面最重要的，不是图画得多复杂，而是责任边界很清楚：

• AI 负责产出建议
• 医生负责确认
• 业务系统负责保存真相

这个边界不清，后面系统只会越来越难收。

而且上线以后我更确定一点：任何模型调用失败、结构化失败、结果不稳定，都不应该阻断核心业务流程。

也就是说，AI 这条链路可以失败，可以降级，可以回退到人工处理，但不能把主业务链路一起拖死。

这个在我看来其实也是架构设计里很现实的一部分，不能只想着“AI 成功时多聪明”，还得提前想好“它失败时系统怎么活”。

但另一方面，我也不认为 AI 永远只该停留在“建议层”。

我现在对下一阶段的看法是：

• 在高风险场景里，AI 先当建议者
• 在低风险、规则清晰、可审计的场景里，AI 后面是可以逐步参与执行的

比如一些经营类、运营类、流程类动作，未来完全可能从：

辅助生成 -> 辅助判断 -> 人工确认 -> 自动执行

一路往下演进。

这也是我觉得 AI + SaaS 和传统 SaaS 最终会拉开差距的地方。

传统 SaaS 更多还是一个承载流程的系统。
AI + SaaS 如果做得足够深，是有机会从“把流程记下来”走向“参与把事情做下去”的。

最后

写到这里，我其实更确定了自己做完第一版、并且产品已经上线以后，对这套架构的几个核心判断：

1. 这套系统的底子依然是 SaaS，不是先上 AI 再补业务
2. 软件架构不能脱离业务目标，我的目标不是做工具，而是深入客户经营和日常管理
3. AI + SaaS 和传统 SaaS 的区别，核心在于我要处理一个“结果不那么稳定的能力”进入业务链路后的责任边界
4. 第一版最重要的是业务闭环，不是实时
5. 第一版不上拾音器，也不上边缘盒子，这个取舍我现在依然认
6. 第一版更像一个带 AI 助手能力的 SaaS，而不是 AI IoT 系统
7. 架构上必须单独抽出 AI 任务层，下一阶段再看要不要单独做经营分析和辅助判断这块能力
8. AI 结果先当草稿，不直接当业务真相，但下一阶段可以逐步参与一些低风险动作

后面随着门店变多、采集量变大、实时性要求变强，拾音器、边缘节点这些东西大概率都会重新进入架构讨论。

但那应该发生在“软件闭环已经成立”之后，而不是之前。

至少以我当前这版软件设计来看，我更愿意先把这件事做对，再把它做重。

本文数据来源于 JoshKale/jobs 项目，该项目由 Andrej Karpathy（前 OpenAI 联合创始人、Tesla AI 总监）发起，后由 Josh Kale 维护。项目基于美国劳工统计局（BLS）的342种职业数据，使用 Gemini Flash AI 模型对每个职业进行 AI 暴露评分（0-10分），分数越高表示被 AI 替代的风险越大。

核心发现

这份研究报告涵盖了美国经济中 342 种职业，涉及 1.43 亿个工作岗位。研究发现：

• 全行业平均暴露分：5.3/10（高于中位数）
• 高危职业（8分以上）：60 个
• 极高危职业（9-10分）：31 个

这意味着，约 6000 万个岗位处于高风险区间，占所有岗位的 **42%**。

Karpathy 的核心观点：”如果你的全部工作都在屏幕上进行，那你就危险了。”

评分标准解读

在深入了解高危职业之前，让我们先理解评分标准：

核心判断标准：工作产出是否是根本性的数字化的？如果能在家庭办公室通过电脑完成——写作、编程、分析、沟通——那么 AI 暴露就是天然高的。

高危职业排行榜（8分以上）

🚨 满分 10/10（最高风险）

1. 医疗转录员 (Medical transcriptionists)

暴露评分：10/10

AI 评估理由：医疗转录是一种纯粹数字化、常规性的信息处理任务，已经受到语音识别的严重冲击。现代 AI 语音转文字技术已经达到很高的准确率，可以自动识别医学术语并生成标准化文档。这项工作的核心——听录音并转写为文字——完全可以由 AI 完成，人类只需进行简单的校对即可。

为什么最危险？

• 工作完全数字化（音频→文字）
• 任务高度标准化和规范化
• 语音识别技术已经成熟
• 不需要人际互动或物理操作

⚠️ 9/10 分（极高风险）- 30个职业

以下是评分 9 分的职业，按字母顺序排列：

2. 账单和账户催收员 (Bill and account collectors)

暴露评分：9/10

工作几乎完全数字化，包括数据分析、查找追踪和电话/电脑沟通。AI 和自动化系统已经推动了该行业 10% 的就业下降。

3. 簿记、会计和审计文员 (Bookkeeping, accounting, and auditing clerks)

暴露评分：9/10

几乎完全数字化的日常工作，涉及信息处理、数据录入和数学验证。AI 和自动化软件已经能够以高精度执行这些任务。

4. 计算机和信息研究科学家 (Computer and information research scientists)

暴露评分：9/10

虽然这些科学家是构建 AI 的人，但他们创造的工具越来越能够自动化自己的核心任务，如编写代码、简化算法和分析实验结果。

5. 计算机程序员 (Computer programmers)

暴露评分：9/10

编写、测试和调试代码的核心任务完全数字化，与大语言模型的优势完美契合。BLS 特别预测由于自动化和 AI，该职业将出现下降。

6. 法庭记录员和同声传译员 (Court reporters and simultaneous captioners)

暴露评分：9/10

工作的核心产出是逐字数字转录，而 AI 语音转文字和自然语言处理在这一领域已经达到很高水平。

7. 客户服务代表 (Customer service representatives)

暴露评分：9/10

回答询问、处理订单和解决投诉的核心职责本质上是数字化和信息化的。大语言模型和 AI 代理已经能够处理复杂的自然语言交互。

8. 数据科学家 (Data scientists)

暴露评分：9/10

完全数字化的职业，以编码、统计建模和数据分析为中心——这些都是 AI 正在迅速达到或超越人类能力的领域。

9. 数据库管理员和架构师 (Database administrators and architects)

暴露评分：9/10

完全数字化的工作，涉及 SQL 编码、系统架构和数据管理。AI 已经可以自动化日常 DBA 任务，如性能调优和查询优化。

10. 桌面出版商 (Desktop publishers)

暴露评分：9/10

工作产品完全数字化，涉及常规信息处理、版面设计和基础编辑——这些都是 AI 高度擅长的领域。

11. 绘图员 (Drafters)

暴露评分：9/10

工作几乎完全数字化，将概念草图转换为技术 CAD 和 BIM 模型。AI 正在迅速发展出生成和优化设计的能力。

12. 经济学家 (Economists)

暴露评分：9/10

工作几乎完全数字化，涉及数据分析、数学建模和技术写作。AI 在数据处理、预测建模和报告生成方面表现出色。

13. 编辑 (Editors)

暴露评分：9/10

完全数字化的职业，以语言处理为核心——这是大语言模型的核心优势。AI 已经可以执行高级文案编辑、语法纠正和内容优化。

14. 财务分析师 (Financial analysts)

暴露评分：9/10

工作几乎完全数字化，涉及处理大型数据集、趋势分析和生成报告。AI 能够以更高的速度和准确性完成这些任务。

15. 财务文员 (Financial clerks)

暴露评分：9/10

执行常规的、以数字为先的任务，如数据录入、记录更新和基础财务计算，这些都是软件自动化的理想目标。

16. 普通办公室职员 (General office clerks)

暴露评分：9/10

核心职责——数据录入、文档格式化、日程安排和信息处理——几乎完全数字化和常规化。

17. 平面设计师 (Graphic designers)

暴露评分：9/10

根本性的数字化职业，核心任务——图像生成、版面创建和照片编辑——正被生成式 AI 迅速改变。

18. 保险核保人 (Insurance underwriters)

暴露评分：9/10

根本性的数字化职业，以常规信息处理、风险建模和数据分析为中心——这些都是 AI 擅长的领域。

19. 口译员和笔译员 (Interpreters and translators)

暴露评分：9/10

核心工作产品是纯粹数字化信息（文本和语音），而大语言模型在这一领域已经展现出接近人类水平的能力。

20. 市场研究分析师 (Market research analysts)

暴露评分：9/10

核心职责——数据收集、统计分析、趋势预测和报告生成——本质上是数字化的，与大语言模型的能力完美契合。

21. 数学家和统计学家 (Mathematicians and statisticians)

暴露评分：9/10

几乎完全数字化的工作，涉及数据分析、数学建模和编码——这些都是 AI 和大语言模型高度胜任的领域。

22. 医疗记录专员 (Medical records specialists)

暴露评分：9/10

几乎完全数字化，涉及在电子系统中处理、分类和录入数据。AI 已经高度擅长医疗编码和文档处理。

23. 运筹学分析师 (Operations research analysts)

暴露评分：9/10

几乎完全数字化的工作，涉及数据收集、数学建模和报告撰写——这些都是 AI 擅长的领域。

24. 律师助理和法律助理 (Paralegals and legal assistants)

暴露评分：9/10

核心职责——法律研究、文件起草和信息组织——本质上是数字化的，与大语言模型的优势完美契合。

25. 软件开发人员、QA 分析师和测试人员 (Software developers, QA analysts, and testers)

暴露评分：9/10

根本性的数字化职业，编码、调试和测试自动化的核心任务是大语言模型的主要应用场景。

26. 特效艺术家和动画师 (Special effects artists and animators)

暴露评分：9/10

几乎完全数字化的工作，3D 建模、渲染和动画的核心任务正被生成式 AI 和自动化工具直接颠覆。

27. 调查研究人员 (Survey researchers)

暴露评分：9/10

根本性的数字化知识职业，涉及背景研究、调查设计、统计分析和报告生成——全部都是 AI 的高暴露领域。

28. 技术文档撰写员 (Technical writers)

暴露评分：9/10

完全数字化的职业，将复杂信息综合成清晰文档——这是大语言模型的核心优势。

29. 旅行代理 (Travel agents)

暴露评分：9/10

核心功能——研究目的地、比较价格、构建行程和处理预订——完全数字化且常规化，已经被 AI 旅行规划工具大量替代。

30. Web 开发人员和数字设计师 (Web developers and digital designers)

暴露评分：9/10

完全数字化的职业，编写代码（HTML、JavaScript）、设计布局和创建原型都是 AI 迅速改进的领域。

31. 作家和作者 (Writers and authors)

暴露评分：9/10

核心工作产品完全数字化和文本化，与大语言模型的主要能力完美契合。AI 已经可以生成长篇连贯的叙述、营销文案和技术文档。

🔶 8/10 分（很高风险）- 29个职业

以下是评分 8 分的职业，同样面临很高的 AI 替代风险：

高危职业的共同点

通过分析这 60 个高危职业，我们可以总结出以下共同特征：

1. 工作产品完全数字化

几乎所有 8 分以上的职业，其工作产出都是数字化的：

• 文本（作家、编辑、技术文档撰写员）
• 代码（程序员、软件开发人员）
• 数据（数据科学家、财务分析师）
• 图像（平面设计师、特效艺术家）

2. 任务常规化和可预测

高危职业往往涉及：

• 信息处理和数据录入
• 模式识别和分类
• 规则驱动的决策
• 标准化的分析和报告

3. 不需要物理操作或人际互动

这些工作通常：

• 可以在家庭办公室完成
• 不需要体力劳动
• 不需要现场判断或手动操作
• 人际互动可以通过数字渠道完成

为什么这些职业最危险？

Goodhart 定律的启示

经济学中有一个著名的 Goodhart 定律：

“当一个指标变成目标时，它就不再是一个好的指标。”

在 AI 替代的语境下，这意味着：

当 AI 针对某个特定任务进行优化时，人类在该任务上的相对优势就会迅速丧失。

高危职业的共同点是：它们的核心任务恰好是 AI 正在快速优化的领域。

当前 AI 的能力边界

现代 AI（尤其是大语言模型）在以下领域已经达到或接近人类水平：

对软件行业的特别警示

作为一名软件从业者，我必须特别关注报告中的一些发现：

软件开发的 9/10 评分

软件开发人员、QA 分析师和测试人员被评为 9/10 分，这意味着：

1. 编码本身正被 AI 快速掌握

   • GitHub Copilot 等工具已经能够生成大量代码
   • AI 在代码审查、bug 修复方面的能力快速提升

2. 但并非所有软件工作都同样危险

报告指出，以下技能更难被自动化：

• 系统架构设计
• 将模糊的产品需求转化为精确的技术约束
• 理解”应该构建什么”和”为什么构建”

建议：软件从业者应该优先发展这些难以描述为”文本生成”的技能。

相对安全的职业有哪些？

为了对比，让我们看看评分最低的职业：

共同特点：需要物理存在、手工技能、实时人际互动或在不可预测的物理环境中工作。

结论与建议

核心结论

1. 6000 万美国岗位处于高危状态（评分 7+）
2. 屏幕依赖型职业全线告急——软件开发 9/10、律师 8/10、办公室职员 9/10
3. 蓝领体力工作成为避风港——水管工、清洁工、屋顶工等评分最低
4. AI 暴露不等于完全消失——很多工作将被重塑而非被替代

给职场人的建议

如果你处于高危职业：

1. 发展 AI 难以复制的技能

   • 复杂的人际沟通和情商
   • 跨领域整合和创新思维
   • 物理世界的判断和操作

2. 将 AI 视为工具而非威胁

   • 学习使用 AI 提高工作效率
   • 专注于 AI 不擅长的任务
   • 从执行者转变为策略制定者

3. 考虑职业转型

   • 向管理、策略或创意方向发展
   • 结合技术能力和领域专业知识
   • 发展需要物理存在或复杂人际互动的工作

无论你是哪个行业：

最重要的能力是适应能力和持续学习的能力。

AI 的发展速度远超预期，今天的安全职业明天可能就不再安全。保持学习、保持灵活，才是应对不确定性的最佳策略。

参考资料

1. JoshKale/jobs GitHub 仓库
2. AI 职业暴露可视化
3. 美国劳工统计局职业展望手册
4. Goodhart’s Law - Wikipedia
5. The Mythical Man-Month - Wikipedia

本文数据基于 Gemini Flash AI 模型的评估，仅供参考。AI 技术发展日新月异，实际情况可能与预测有所不同。