Skip to content

L02-21 项目实战(二):让运营能自己把知识库管起来 ​

全局中心内容:知识库是运营出来的,不是上线就完事——后台决定了它能不能持续改进。 全局讲解主线:为什么需要后台 → 文档管理 → 检索调试 → 反馈闭环 → 评测入口 → 权限 → 交付。


P1 · 产出页 ​

中心内容:文档管理 + 检索调试 + 反馈处理 + 评测入口四位一体的后台。

  • 讲解技巧
    • 开场观点:RAG 上线只是开始,80% 的工作在上线之后。
    • 提问:「答案错了,工程师怎么知道?」——答案通常是「用户投诉了才知道」。
  • 时长:30s

P2 · 文档管理 ​

中心内容:列表、状态、重灌、下线四个基本操作。

  • 页面内容:文档列表字段设计(片段数、状态、最后同步、失败原因)

  • 讲解技巧

    • 强调「单篇重灌」和「下线」这两个操作:出问题时能立刻止损,而不用全库重来。
    • 提醒下线要真的从检索中排除,不只是隐藏列表。
  • 时长:5min


P3 · 检索调试器 ​

中心内容:在后台直接输入问题,看到每一路的召回结果和分数。

  • 页面内容:调试界面字段(query / 向量 topN / BM25 topN / 融合后 / Rerank 后)

  • 讲解技巧

    • 这是本节最受欢迎的功能:它把「黑盒」变成「透明」,工程师排查 bad case 的效率提升数倍。
    • 强调要显示每一步的分数和是否被选中,否则看不出是召回问题还是排序问题。
  • 时长:7min


P4 · 反馈闭环 ​

中心内容:用户的「点踩」要能变成一条可处理的工作项。

  • 页面内容:反馈记录结构(问题、答案、来源、用户意见、处理状态)

  • 讲解技巧

    • 讲清闭环的四步:收集 → 归类 → 归因 → 修复 → 回归。
    • 强调归因这一步不能省:要判断是缺文档、切分错、召回差还是生成差,不同原因解法完全不同。
  • 时长:6min


P5 · 常见归因分类 ​

中心内容:五类原因与对应的修复动作。

  • 页面内容:缺文档 / 切分不当 / 召回漏 / 排序错 / Prompt 问题

  • 讲解技巧

    • 这页是运营和工程师的共同语言,建议直接做成后台的下拉选项。
    • 提醒:归因数据积累起来能告诉你「系统最大的短板在哪」,比任何讨论都客观。
  • 时长:5min


P6 · 评测入口 ​

中心内容:把评测集管理和评测运行放进后台。

  • 讲解技巧
    • 讲价值:改了配置后,运营自己就能跑一遍评测看有没有变差。
    • 提醒权限控制:评测跑一次要花钱,不能谁都能跑。
  • 时长:4min

P7 · 权限与审计 ​

中心内容:后台操作必须留痕。

  • 页面内容:操作审计表设计

  • 讲解技巧

    • 强调**「谁下线了这篇文档」必须能查到**,否则出问题只能互相甩锅。
    • 特别提醒:后台的检索调试会绕过租户过滤,这个功能必须严格授权。
  • 时长:5min


P8 · 编码:后台接口 ​

中心内容:复用检索层,但加一层「调试模式」开关。

  • 页面内容:DebugRetriever 与权限校验

  • 讲解技巧

    • 重点讲「调试模式不能出现在生产默认配置里」,要靠显式开关 + 角色校验双重保护。
  • 时长:6min


P9 · 交付验收 ​

中心内容:运营能否独立完成「发现问题 → 定位 → 修复 → 验证」。

  • 讲解技巧
    • 给出验收方式:让运营不看文档操作一遍全流程,卡在哪就补哪。
    • 引出下一节:最后一环,用户看到的是什么——02-22。
  • 时长:3min

讲师备忘 ​

项内容
课前必做准备检索调试界面截图或草图;准备反馈样例
最容易超时处P3 调试器,容易被追问字段设计
学员最常问「后台要不要做前端?」答:最小可用即可,重点是能力不是界面
现场备用无前端 → 用接口返回 JSON 演示