Human-in-the-Loop agent 是如何工作的?

---
title: "Human-in-the-Loop agent 是如何工作的?"
author: "Amit Shekhar"
source_url: "https://outcomeschool.com/blog/human-in-the-loop-agents"
published_at: "2026-11-11"
fetched_at: "2026-11-11T15:38:03Z"
updated_at: "2026-11-11T15:47:52Z"
language: "zh"
review_status: "draft"
---

# Human-in-the-Loop agent 是如何工作的?

![](https://outcomeschool.com/static/images/blog/human-in-the-loop-agents.png)

Human-in-the-Loop(人在回路)agent 会在重要时刻停下来,请人检查、批准、修改或回答问题,然后再继续。大部分工作仍由 agent 自行完成,但关键决策始终由人掌控。

本文将介绍 Human-in-the-Loop agent 的工作方式。我们还会讨论全自动 agent 为什么有风险、人可以在哪些环节介入、agent 如何暂停并在人回复后继续、如何判断哪些操作需要人来处理,以及这种方式适合哪些场景、又会在哪些地方拖慢速度。

本文将介绍以下内容:

- 全自动 agent 的问题
- 什么是 Human-in-the-Loop agent?
- 人可以在哪些环节介入?
- Human-in-the-Loop agent 是如何工作的?
- agent 如何暂停并继续?
- 一个简单的代码示例
- 哪些操作需要人来处理?
- 常见错误
- 优点和缺点

我是 **Amit Shekhar**,[Outcome School](https://outcomeschool.com) 创始人。我教授和指导过许多开发者,他们凭借自己的努力获得了高薪技术工作;我也帮助许多科技公司解决了各自的难题,并创建了多个被头部公司采用的开源库。我热衷于通过开源项目、博客和视频分享知识。

我在 Outcome School 讲授 [AI 与机器学习](https://outcomeschool.com/program/ai-and-machine-learning)。

下面进入正题。

## 全自动 agent 的问题

**[AI agent](https://outcomeschool.com/blog/ai-agent) 是一种围绕 LLM 构建、[循环运行](https://outcomeschool.com/blog/ai-agent-loop)的系统:它思考目标、选择工具、查看结果,然后反复执行,直到完成任务。** LLM 会[请求调用工具](https://outcomeschool.com/blog/how-does-function-calling-work-in-llms),例如 `send_email` 或 `book_flight`,再由我们的代码执行。

假设我们对 agent 说:“帮我预订下周五去孟买的航班。”agent 会搜索航班、比较价格、选中一班并完成预订。在全自动 agent 中,没有人检查这些步骤。

但 agent 可能犯错,而且犯错的速度很快。

假设 agent 误解了“下周五”,订错了日期;或者选了一班价格是我们预期五倍的航班;或者把邮件发给了错误的客户;又或者删除了我们需要的文件。

有些错误很小,也很容易撤销;另一些错误则会造成金钱损失、损害信任,甚至根本无法挽回。

因此,全自动 agent 会带来以下问题:

- 它可能执行无法撤销的错误操作。
- 本该询问时,它可能自行猜测。
- 它可能做出违反公司规定的事情。
- 没有人为最终决定负责。

我们需要一种方案:大部分工作仍由 agent 完成,但重要环节由人检查。Human-in-the-Loop agent 正是为此而来。

## 什么是 Human-in-the-Loop agent?

**Human-in-the-Loop agent 是一种会在指定节点暂停,等待人批准、修改、拒绝或回答后再继续的 AI agent。**

在这里,人作为其中一个步骤,被放进 agent 的循环中。这种方式通常简称为 **HITL**。

可以把它想成一名初级员工和一位经理。初级员工负责调查、填写表格并准备好所有材料。但在签署大额合同或花费大笔资金之前,他会找到经理说:“这是我准备做的事,可以批准吗?”经理可以同意、拒绝,或者做一点调整。

agent 就是初级员工,我们则是经理。

agent 不会事事都问,否则只会浪费经理的时间。它只在重要时刻询问。

**准备转向 AI 领域?**

无论你目前从事哪个技术领域,只要付出努力,都可以转向这些岗位:

- AI 工程师
- 前线部署工程师(Forward Deployed Engineer)
- AI Agent 工程师
- Harness 工程师
- 语音 AI 工程师
- AI 架构师
- LLM 工程师
- LLM 推理工程师
- 生成式 AI 工程师
- MLOps 工程师
- 机器学习工程师
- 深度学习工程师

Outcome School 的 [AI 与机器学习课程](https://outcomeschool.com/program/ai-and-machine-learning)可以帮助你走向这些岗位。

## 人可以在哪些环节介入?

下面看看人通常会在哪些环节加入循环。

**操作前批准:** agent 准备执行某项操作,例如“发送这封邮件”或“支付 2 万卢比”,然后等待。人可以先批准、拒绝或修改它。这是最常见的模式。

**回答问题:** agent 不确定时会主动询问,而不是自行猜测。例如:“你说的是下周五。你指的是 10 月 9 日,还是 10 月 16 日?”

**审核输出:** agent 先写出报告或客户回复等草稿,再由人审核后发出。

**卡住时接手:** 如果 agent 一再失败,或遇到异常情况,它会把任务交给人。这叫作 **升级处理(escalation)**,也就是把问题交给权限更高的人。

**提供反馈:** 人指出哪些地方做得好、哪些地方有问题,这些反馈以后可以用来改进 agent。

下面用表格整理这些介入点,方便理解。

| 介入点 | 发生时机 | 示例 |
| --- | --- | --- |
| 批准 | 执行高风险操作之前 | “批准发送这封邮件吗?” |
| 回答 | agent 不确定时 | “你指的是哪个周五?” |
| 审核 | 草稿准备好之后 | 人修改一份客户回复 |
| 接手 | agent 卡住时 | 把复杂退款交给客服人员处理 |
| 反馈 | 任务结束后 | “这份摘要漏掉了价格。” |

## Human-in-the-Loop agent 是如何工作的?

我们继续用航班示例,一步一步来看。

**第 1 步:** agent 自行工作。它搜索航班并比较价格。这些操作只读取数据,不会改变任何东西,因此很安全,不需要人介入。

**第 2 步:** agent 准备执行高风险操作。它想调用会花钱的 `book_flight` 工具。我们的代码已经把这个工具标记为“需要批准”。

**第 3 步:** agent 暂停。系统不会直接运行工具,而是中止循环并创建一条审批请求,向人清楚展示 agent 想做什么:“预订 AB-203 航班,10 月 9 日星期五早上 7 点,价格 5400 卢比。”

**第 4 步:** 人作出决定。可以批准,可以说明理由后拒绝,也可以修改具体信息,例如改成晚上的航班。

**第 5 步:** agent 继续。如果获得批准,就运行工具;如果信息被修改,就用新的信息运行工具;如果遭到拒绝,agent 会收到理由,然后换一种办法,或者停止。

可以用下面的流程图表示:

```text
          +----------------------+
          |    Search flights    |
          |     (safe, auto)     |
          +----------------------+
                     ↓
          +----------------------+
          |    Compare prices    |
          |     (safe, auto)     |
          +----------------------+
                     ↓
          +----------------------+
          |    Wants to book     |
          |       (risky)        |
          +----------------------+
                     ↓
          +----------------------+
          |   PAUSE: ask human   |
          +----------------------+
                     ↓
      +--------------+--------------+
      ↓              ↓              ↓
   Approve         Edit          Reject
      ↓              ↓              ↓
   Book as       Book with     Tell agent
   planned        changes      the reason
```

从中可以看到,安全步骤会自动运行,只有高风险步骤才会交给人处理。

**顺便提醒一句**

无论你从事哪个技术领域,都应该熟悉这些主题:

- LLM
- RAG
- MCP
- Agent
- 微调
- 量化

我们在一个视频中把它们串到了一起:

[AI 工程详解:LLM、RAG、MCP、Agent、微调与量化](https://www.youtube.com/watch?v=lnfWvX66FUk)

不必停下来立刻观看。先收藏,等有时间再看,未来的你会感谢现在的自己。

现在回到正题。

## agent 如何暂停并继续?

接下来的关键问题是:程序怎样“等待”人来处理?人可能两秒后回复,也可能两天后才回复。

我们不可能让程序持续运行并等待两天。服务器可能会重启,届时所有信息都会丢失。

解决办法是 **保存状态**。这里的 **状态**,是 agent 此刻掌握的全部信息:目标、已经完成的步骤、工具返回的结果,以及接下来准备执行的操作。

具体过程如下:

- agent 暂停时,系统会把完整状态保存到数据库。这个保存下来的副本叫作 **检查点(checkpoint)**。
- 系统向人发送审批请求,例如聊天应用里的按钮、邮件,或者仪表盘中的一项任务。
- 此时程序可以彻底停止。检查点安全地保存在数据库里,因此不会丢失任何信息。
- 人回复后,系统会加载检查点、加入人的回答,然后从暂停的位置继续循环。

可以把它想成书里的书签。我们停止阅读,夹好书签,然后合上书。几天后重新翻到书签所在的位置,从同一行继续读。

我们另有一篇关于[图工程(Graph Engineering)](https://outcomeschool.com/blog/what-is-graph-engineering)的详细文章,介绍检查点如何让 AI 系统一步一步暂停和恢复。

主流 agent 框架直接支持这种机制。例如,[LangGraph](https://outcomeschool.com/blog/how-does-langgraph-work) 提供了 `interrupt` 函数,可以暂停 agent 并保存检查点;之后再带上人的回答恢复 agent。

基本思路如下:

```python
from langgraph.types import interrupt, Command

def booking_step(state):
    decision = interrupt({"action": "book_flight",
                          "details": state["chosen_flight"]})
    if decision == "approve":
        book_flight(state["chosen_flight"])
    return state

# Later, when the human clicks "approve":
graph.invoke(Command(resume="approve"), config)
```

从这段代码可以看到:

- `interrupt(...)` 会在这一行暂停 agent、保存检查点,并把详细信息发送给我们的应用,以便展示给人。
- 在收到回复前,agent 不会做任何事情。
- 人回复后,我们调用 `graph.invoke`,并传入 `Command(resume="approve")`。这里的 `graph` 是我们的 agent,`config` 则告诉它应该继续哪段已保存的对话。
- agent 会加载检查点,然后从头重新运行这一步。这一次,`interrupt` 不会暂停,而是直接返回人的回答,因此 `decision` 的值变成了 "approve",随后执行航班预订。

**注意:**

- 由于这一步恢复后会从头重新运行,任何真正执行操作的代码,例如预订航班,都必须放在 `interrupt` 之后,不能放在它之前。
- 要让这一机制生效,还必须为 agent 配置 **checkpointer(检查点保存组件)**,负责把检查点保存到内存或数据库。

如果你想学习 agent 的工具使用、记忆、架构和 LangGraph,并从零构建一个 AI 编程 agent,可以查看 Outcome School 的 [AI 与机器学习课程](https://outcomeschool.com/program/ai-and-machine-learning)。

## 一个简单的代码示例

下面用一个很小的 Python 示例说明基本思路。这个示例只是为了便于理解,所以把所有逻辑都放在一个简单程序里。

```python
RISKY_TOOLS = {"book_flight", "send_email", "delete_file"}

def run_tool_with_approval(tool_name, args):
    if tool_name not in RISKY_TOOLS:
        return run_tool(tool_name, args)   # safe tool, run directly

    print(f"Agent wants to call {tool_name} with {args}")
    choice = input("approve / edit / reject: ")

    if choice == "approve":
        return run_tool(tool_name, args)
    if choice == "edit":
        new_args = ask_human_for_new_args(args)
        return run_tool(tool_name, new_args)
    reason = input("Why reject? ")
    return f"Human rejected this action. Reason: {reason}"
```

这段代码中:

- `RISKY_TOOLS` 是需要人批准的工具列表。
- 如果工具没有风险,就直接运行;这里的 `run_tool` 是我们用于执行各种工具的函数。
- 如果工具有风险,就向人展示 agent 想做什么,并要求作出选择。
- 选择 "approve" 时,按原计划运行工具。
- 选择 "edit" 时,调用 `ask_human_for_new_args`,让人修改输入,然后用新的输入运行工具。
- 选择 "reject" 时,不运行工具,而是把拒绝理由作为工具结果返回。agent 读到理由后,可以换一种方式尝试。

**注意:** 在真实系统中,我们不会使用 `input()`,因为它会阻塞程序。我们会像上一节介绍的那样保存检查点、向人发送请求,并在收到回复后继续。

## 哪些操作需要人来处理?

如果 agent 每执行一个小步骤都要申请批准,人很快就会疲惫,然后看也不看地一直点击 "approve"。这叫作 **审批疲劳(approval fatigue)**,会让人工检查形同虚设。

因此,我们必须谨慎选择介入点。一个简单方法是针对每项操作问两个问题:

- **它可以撤销吗?** 读取文件不会改变任何东西,因此无须撤销;发送邮件则无法撤回。
- **如果出错,会造成多大损失?** 重命名一份草稿影响很小;支付款项或删除客户数据的影响则很大。

可以把操作分成以下几类:

| 风险等级 | 操作示例 | 处理方式 |
| --- | --- | --- |
| 低 | 搜索、读取、总结 | 自动运行 |
| 中 | 创建草稿、修改一项小设置 | 直接运行,但记录日志,供人稍后检查 |
| 高 | 支付款项、向客户发送内容、删除数据 | 一律先由人批准 |

我们也可以设置简单规则,例如:“退款金额不超过 500 卢比时自动执行,超过 500 卢比则需要批准。”这样,人只需要关注真正重要的决定。

## 常见错误

构建这类 agent 时,我们经常会犯一些错误。下面看看常见问题:

- **展示的信息太少。** “批准操作吗?”这样的请求毫无用处。必须让人清楚看到会发生什么:调用哪个工具、输入是什么,以及为什么要这样做。
- **忽略拒绝理由。** 人拒绝操作时,agent 必须收到理由,避免再次尝试同一个错误操作。
- **没有超时机制。** 如果一直没人回复,请求不能永远等下去。我们应该提前设定安全的默认处理方式,例如 24 小时后取消,或者提醒相关人员。

## 优点和缺点

**优点:**

- 高风险操作会在执行前由人检查。
- 信息不明确时,agent 会主动询问,而不是自行猜测。
- 重要决定仍然由人负责。
- 人们会更加信任系统,也更愿意使用它。
- 人的修改和拒绝可以成为改进 agent 的反馈。

**缺点:**

- 速度更慢,因为 agent 需要等待人处理。
- 需要有人能够及时响应。
- 实现起来需要投入更多工作,包括状态保存、审批界面和超时机制。
- 设计不当会导致审批疲劳。

因此,这本质上是在速度与安全之间作取舍。操作的风险越高,花时间等待人工检查就越值得。

到这里,我们应该已经理解 Human-in-the-Loop agent 的工作方式了。

## 常见问题

### Human-in-the-Loop agent 每一步都需要批准吗?

不需要。它只在重要时刻提出请求。搜索、读取和总结等安全操作会自动运行;只有支付款项、向客户发送内容或删除数据等高风险操作,才会先交给人处理。每个小步骤都要求批准会造成审批疲劳,让人开始不加检查地点击 "approve"。

### 人拒绝某项操作后会发生什么?

工具不会运行。相反,agent 会把人的拒绝理由作为工具结果接收,然后换一种方式尝试,或者停止。把理由传回去很重要,因为这样可以防止 agent 再次尝试同一个错误操作。

### 如果一直没人回复审批请求,应该怎么办?

请求不能永远等待。我们应该提前设定安全的默认处理方式,例如 24 小时后取消操作,或者提醒相关人员。由于 agent 的状态已经保存为检查点,程序在等待期间不需要持续运行。

### 为什么 LangGraph 中真正执行操作的代码必须放在 interrupt 之后?

因为 agent 恢复后,会从头重新运行暂停的步骤。这一次,`interrupt` 不会暂停,而是直接返回人的回答。因此,预订航班等真正执行操作的代码必须放在 `interrupt` 之后,不能放在它之前。

本文到此结束。

感谢阅读。

**Amit Shekhar**  
[Outcome School](https://outcomeschool.com) 创始人