AW36 私有模型 vs 商业 API · 什么时候该切¶
一句话结论：数据敏感、调用稳定、延迟可控 → AW36；长尾能力、突发峰值、评测对标 → 商业 API；生产默认走多模型路由。
决策表¶
| 场景 | 优先 | 原因 |
|---|---|---|
| 合同/病历/标书原文进模型 | AW36 | 不出域 |
| 日均 ≥ 5 万次稳定推理 | AW36 | 单位成本可压到商业 API 的 1/3–1/10 |
| 需要最新世界知识 / 联网 | 商业 API | 私有权重无实时检索 |
| POC 1–2 周验证业务价值 | 商业 API | 零硬件启动 |
| 产线 7×24 SLA | AW36 + 冷备路由 | 可控故障域 |
可引用 KPI（来自真实交付）¶
- 医院 AW36-72B 私有部署：P95 延迟 < 2.8s，日调用 4.2 万，数据零出域
- 多模型路由：高峰切商业 API，平峰回 AW36，月成本下降 41%
- GPU 集群 128 卡交付：从到货到可服务 11 天
完整一页纸案例集：/portfolio/ · PDF：/pdf