Appearance
L03-06 HITL:写操作必须有人的确认
全局中心内容:审批是 Agent 系统的安全阀——没有它,模型的一次误判就是一次事故。 全局讲解主线:一次误操作 → 什么需要审批 → 审批网关设计 → 拒绝也是信息 → 超时处理 → 编码 → 体验设计。
P1 · 产出页
中心内容:一个带审批网关的 Agent,写操作暂停等待确认。
- 讲解技巧
- 开场场景:Agent 判断「磁盘满了」,于是执行了
DROP TABLE。 - 强调:模型的判断看起来合理,但后果不可逆。
- 开场场景:Agent 判断「磁盘满了」,于是执行了
- 时长:20s
P2 · 什么需要审批
中心内容:不可逆、影响面大、涉及外部系统的操作。
页面内容:三类判定标准 + 举例
讲解技巧
- 给一个可操作的判据:「如果这个操作做错了,能不能一键撤销?」不能就审批。
- 提醒按风险分级自动判定,不要靠人肉配置清单。
时长:5min
P3 · 审批网关
中心内容:工具执行前拦截,挂起任务,等待决策。
页面内容:ApprovalGateway 流程与状态流转
讲解技巧
- 讲清「挂起」的实现:任务状态置为 WAITING_APPROVAL,释放线程,不要阻塞线程池。
- 强调审批请求要展示完整的参数和影响预估,否则审批人无从判断。
时长:6min
P4 · 拒绝也是信息
中心内容:拒绝要作为 Observation 写回,让 Agent 换方案。
页面内容:拒绝回喂的示例对话
讲解技巧
- 这是最容易被忽略的设计:直接终止会让任务失败,回喂则让 Agent 自我调整。
- 提醒要带拒绝理由,Agent 才能知道为什么不行。
时长:5min
P5 · 超时处理
中心内容:审批不能无限等待,要有超时策略。
- 讲解技巧
- 给策略:超时默认拒绝(安全优先),并通知发起人。
- 强调超时时间不计入 Agent 的执行超时,否则会被误杀(这条在 03-07 会呼应)。
- 时长:4min
P6 · 编码:网关实现
中心内容:拦截高风险工具,生成审批单,回调恢复任务。
页面内容:ApprovalGateway 与恢复逻辑
讲解技巧
- 强调恢复时要把审批结果作为系统消息插入,保持上下文连贯。
时长:6min
P7 · 审批体验
中心内容:审批人要能在 10 秒内做出判断。
- 讲解技巧
- 产品视角:展示「要做什么 / 影响什么 / 谁发起的 / 一键拒绝理由」。
- 提醒移动端审批很常见,界面要适配。
- 时长:3min
P8 · 避坑与小结
中心内容:审批不能做成形式主义(一律点同意)。
- 讲解技巧
- 给出对策:抽样复盘 + 误批追责 + 自动审批白名单(低风险且高频的操作可自动放行)。
- 引出下一节:等待也有代价——03-07 超时控制。
- 时长:2min
讲师备忘
| 项 | 内容 |
|---|---|
| 课前必做 | 准备误操作场景描述;准备审批界面草图 |
| 最容易超时处 | P3 网关设计,容易展开到状态机 |
| 学员最常问 | 「全审批会不会太慢?」答:分级审批,只读全自动 |
| 现场备用 | 无前端 → 用接口 + 命令行演示审批流程 |