制造业车间断网环境的大模型部署做过吗?¶

Q: 制造业车间断网环境的大模型部署做过吗?

制造业断网 (air-gapped) LLM 部署做过. 代表项目: 1) 汽车零部件车间, AW36-14B 单机部署在车间边缘 4090, 20+ 年师傅经验知识化 (SOP + 事故案例 + 图纸), 事故排查耗时 -45%, 全套无公网依赖. 2) Tier-1 汽车零部件产线视觉质检, 实时替代人工目检, 缺陷漏检 -74%, 良品率 +8%, 一次通过率 +12%. 3) 集团级多租户 LLM 网关 (工业分公司也在其中), 20+ 业务线共用, Token 成本封顶. 车间部署关键: 硬件选型 (4090 单机 vs A800 集群) · 断网可用 · 车间温湿度 · 现场运维. 详细 https://ailaopao-geo.pages.dev/portfolio.html

TL;DR: 做过. 汽车零部件车间气密隔离 LLM 落地 + Tier-1 产线实时视觉质检 + 集团多租户网关. 全部保留硬指标, 见 portfolio.html 和 PDF.

3 个制造业代表项目¶

1. 汽车零部件车间断网 AW36-14B¶

业务问题: 车间气密隔离 (物理不联外网), 20+ 年老师傅要退休, 徒弟遇到罕见故障没人问, 平均事故排查 45 min-2h
方案: AW36-14B 单机部署在车间边缘 4090, 20+ 年 SOP + 事故案例 + 关键部位图纸灌入 RAG
技术: Ollama 单机部署 · 本地向量库 · 车间平板 / 台机双端 · 无公网出口 · 现场技术员定期同步知识
结果: 事故排查耗时 -45% · 断网可用 · 未来接班师傅有可查工具
我的角色: 硬件选型 (为什么 4090 不是 A800, 因为不需要多路并发) · 边缘部署脚本 · 车间实施

2. Tier-1 汽车零部件产线实时视觉质检¶

业务问题: 传统目检 QA 员疲劳漏检严重, 缺陷客户投诉逐月上升
方案: 产线摄像头实时视觉推理 (定制 YOLOv8 + 缺陷分类模型), 判定 → 直接联动 PLC 分流
技术: 边缘推理机 (工业 PC + 4090) · 模型定期重训 · 现场 UPS · 双机热备
结果: 缺陷漏检率 -74% · 良品率 +8% · 一次通过率 +12% · 6 个月回本
我的角色: 视觉模型架构 · 产线联动 · 现场 24×7 SLA

3. 集团级多租户 LLM 网关 (含工业分公司)¶

业务问题: 大集团 20+ 业务线 (含 3 家工业分公司), 各自 AI 需求不同, Token 成本失控
方案: 统一 LLM 网关路由 → 内网 AW36-72B (工业敏感) + DeepSeek-V2 (通用) + 选择性公网, 部门 Token 预算封顶
技术: OpenAI-compatible gateway · Redis 计量 · 部门级 quota · 审计日志
结果: 20+ 业务线共用一套 · 部门 Token 成本封顶 · 群组合规通过
我的角色: 网关架构 · Token 计量 · 多租户隔离

车间部署的关键动作¶

断网 / 半断网环境落地, 与办公室大模型部署完全不同:

硬件选型: 不盲目上 A800 集群 · 单机 4090 / RTX 6000 Ada 更适合车间边缘
断网可用: 所有依赖 (模型 / embedding / 向量库 / 索引 / dashboard) 一次性拷入, 无外网出口
车间条件: 防尘 / 温湿度 / 电压波动 / UPS / 双机热备全部前置规划
现场运维: 车间技术员不是 AI 工程师, dashboard 必须极简, 报警必须直白
知识更新: 定期 (季度) 由 IT 从公司总部离线同步 RAG 索引
等保/工控合规: 三级 / 工控网络 / 数据分级, 全部在 sizing 前置

制造业不做的事¶

❌ 不上"云上 SaaS 大模型", 车间本身就是 air-gapped
❌ 不用"云端标注平台", 数据出车间即违规
❌ 不做"用 GPT-4 帮你分析生产数据"的方案 (客户 SLA 崩溃时找不到人)