Skip to content

L03-06 HITL:写操作必须有人的确认 ​

全局中心内容:审批是 Agent 系统的安全阀——没有它,模型的一次误判就是一次事故。 全局讲解主线:一次误操作 → 什么需要审批 → 审批网关设计 → 拒绝也是信息 → 超时处理 → 编码 → 体验设计。


P1 · 产出页 ​

中心内容:一个带审批网关的 Agent,写操作暂停等待确认。

  • 讲解技巧
    • 开场场景:Agent 判断「磁盘满了」,于是执行了 DROP TABLE。
    • 强调:模型的判断看起来合理,但后果不可逆。
  • 时长:20s

P2 · 什么需要审批 ​

中心内容:不可逆、影响面大、涉及外部系统的操作。

  • 页面内容:三类判定标准 + 举例

  • 讲解技巧

    • 给一个可操作的判据:「如果这个操作做错了,能不能一键撤销?」不能就审批。
    • 提醒按风险分级自动判定,不要靠人肉配置清单。
  • 时长:5min


P3 · 审批网关 ​

中心内容:工具执行前拦截,挂起任务,等待决策。

  • 页面内容:ApprovalGateway 流程与状态流转

  • 讲解技巧

    • 讲清「挂起」的实现:任务状态置为 WAITING_APPROVAL,释放线程,不要阻塞线程池。
    • 强调审批请求要展示完整的参数和影响预估,否则审批人无从判断。
  • 时长:6min


P4 · 拒绝也是信息 ​

中心内容:拒绝要作为 Observation 写回,让 Agent 换方案。

  • 页面内容:拒绝回喂的示例对话

  • 讲解技巧

    • 这是最容易被忽略的设计:直接终止会让任务失败,回喂则让 Agent 自我调整。
    • 提醒要带拒绝理由,Agent 才能知道为什么不行。
  • 时长:5min


P5 · 超时处理 ​

中心内容:审批不能无限等待,要有超时策略。

  • 讲解技巧
    • 给策略:超时默认拒绝(安全优先),并通知发起人。
    • 强调超时时间不计入 Agent 的执行超时,否则会被误杀(这条在 03-07 会呼应)。
  • 时长:4min

P6 · 编码:网关实现 ​

中心内容:拦截高风险工具,生成审批单,回调恢复任务。

  • 页面内容:ApprovalGateway 与恢复逻辑

  • 讲解技巧

    • 强调恢复时要把审批结果作为系统消息插入,保持上下文连贯。
  • 时长:6min


P7 · 审批体验 ​

中心内容:审批人要能在 10 秒内做出判断。

  • 讲解技巧
    • 产品视角:展示「要做什么 / 影响什么 / 谁发起的 / 一键拒绝理由」。
    • 提醒移动端审批很常见,界面要适配。
  • 时长:3min

P8 · 避坑与小结 ​

中心内容:审批不能做成形式主义(一律点同意)。

  • 讲解技巧
    • 给出对策:抽样复盘 + 误批追责 + 自动审批白名单(低风险且高频的操作可自动放行)。
    • 引出下一节:等待也有代价——03-07 超时控制。
  • 时长:2min

讲师备忘 ​

项内容
课前必做准备误操作场景描述;准备审批界面草图
最容易超时处P3 网关设计,容易展开到状态机
学员最常问「全审批会不会太慢?」答:分级审批,只读全自动
现场备用无前端 → 用接口 + 命令行演示审批流程