Appearance
L04-02 模型网关：多厂商的统一入口
全局中心内容：网关解决的是「业务不用关心用了谁的模型」，顺带解决降级、计量、合规。 全局讲解主线：直连的痛点 → 网关职责 → 路由策略 → 降级链 → 协议转换 → 计量 → 编码 → 风险。
P1 · 产出页
中心内容：一个支持多厂商、可路由、可降级、可计量的模型网关。
- 讲解技巧
- 开场痛点：三个业务各接一家厂商，密钥散落、无法统一限流、出事无法切。
- 时长：30s
P2 · 网关职责
中心内容：统一鉴权 / 路由 / 降级 / 计量 / 审计 / 协议转换。
页面内容：职责清单与每一项解决什么问题
讲解技巧
- 强调统一鉴权是最立竿见影的收益：密钥不再散落在各业务代码里。
时长：5min
P3 · 路由策略
中心内容：按场景、成本、能力、健康度打分选择。
页面内容：评分模型与示例
讲解技巧
- 讲清按场景路由（简单分类走便宜模型，复杂推理走强模型）是最省钱的一招。
- 提醒路由规则要可配置且可灰度。
时长：6min
P4 · 降级链
中心内容：主用失败 → 备用同档 → 降档模型 → 缓存 → 明确失败。
- 讲解技巧
- 强调降级要在响应里标记，让调用方知道质量下降。
- 提醒：降级不等于静默，否则业务方永远发现不了问题。
- 时长：6min
P5 · 协议转换
中心内容：对外统一 OpenAI 兼容协议，对内适配各家。
- 讲解技巧
- 讲清价值：业务方换厂商不用改代码，这是网关最实在的收益。
- 提醒：转换层要处理各家差异（参数名、流式格式、错误码）。
- 时长：6min
P6 · 计量与配额
中心内容：每次调用记 Token、耗时、成本归属。
- 讲解技巧
- 强调成本归属到业务方，否则平台永远在背账单。
- 提醒计量要异步落库，不能增加主链路延迟。
- 时长：5min
P7 · 流式透传
中心内容：网关不能缓冲流式响应，否则流式失去意义。
- 讲解技巧
- 这是网关实现最常见的坑：为了计量把流读完再返回，用户又要等 8 秒。
- 给出解法：边转发边计数，结束时落库。
- 时长：5min
P8 · 编码：网关过滤链
中心内容：Spring Cloud Gateway + 自定义 Filter 链。
页面内容：ModelRouterFilter 与顺序
讲解技巧
- 强调 Filter 顺序：鉴权 → 配额 → 路由 → 转发 → 计量。
时长：7min
P9 · 风险与代价
中心内容：网关是单点，必须高可用；且会引入额外延迟。
- 讲解技巧
- 客观讲代价：多一跳就是多几毫秒，要有超时和熔断保护（呼应 03-09）。
- 提醒要有多活部署，网关挂了等于全站 AI 能力不可用。
- 时长：4min
P10 · 避坑与小结
中心内容：先做透传，再加能力，别一上来做全套。
- 讲解技巧
- 给出演进建议：透传 → 计量 → 路由 → 降级，每步都有独立价值。
- 引出下一节：有了网关，怎么限流——04-03。
- 时长：3min
讲师备忘
| 项 | 内容 |
|---|---|
| 课前必做 | 准备职责清单图；准备 Filter 链顺序图 |
| 最容易超时处 | P8 编码，过滤链代码较长 |
| 学员最常问 | 「延迟增加多少？」答：内网转发通常 <10ms，可忽略 |
| 现场备用 | 无多厂商 → 用两个本地桩服务演示路由 |