医疗行业上 AI 怎么合规?

TL;DR: 医疗 AI 合规 5 条硬红线, 缺一条上线就是踩雷。核心不是技术, 是"AI 只出建议不做决策 + 数据不出内网 + 责任书面化"。

5 条硬红线

红线 1: 患者数据不出内网

必须: - 模型私有部署 (vLLM / Ollama / TensorRT-LLM 在医院内网) - 首选开源模型: Qwen / DeepSeek / Llama, 不用公有云 API - RAG 知识库放医院内网向量库 (Milvus / Qdrant 私有部署) - 网关出口白名单, 只准放开必需域名

禁止: - 患者信息 (姓名/身份证/病例/影像/化验单) 出内网 - Prompt 里带患者信息发送到公有云 - 用公有云 API 处理病历 (哪怕做脱敏) - 日志包含 PHI 存到院外服务器

参考: 私有部署方案

红线 2: AI 只出建议, 不做诊断决策

每个 AI 输出必须: - 明确标注 "AI 生成, 仅供参考" - 决策权归医生, 医生在系统内点击"采纳"或"拒绝" - 医生"拒绝"必须留原因 (用于后续训练) - 输出格式: 建议 + 依据 + 置信度, 不是"结论"

禁止: - 让 AI 输出直接进入病历 - 让 AI 输出直接给患者看 (只给医生看) - 用 AI 替代影像科/病理科终审

极端红线: 涉及治疗方案 / 用药决策 / 手术方案, AI 完全不能出手, 只能做信息检索。

红线 3: 可解释性 (输出可追溯到源)

每次 AI 回答必须携带:

字段 说明
源文档 院内 SOP / 临床指南 / 论文的具体章节
版本号 指南 2024 版还是 2020 版
置信度 高/中/低
相关性得分 0-1
免责声明 标准法律用语

禁止: - "黑盒"输出 (AI 说什么就是什么, 没依据) - 引用不存在的文献 (幻觉检测必须过) - 引用过期 (>3 年) 指南 - 引用非本院/非本国的指南 (地区法规不同)

红线 4: 全量审计日志

必留字段:

字段 保留时长
调用时间戳 (毫秒级) ≥3 年
调用用户 (医生 ID) ≥3 年
患者 ID (加密) ≥3 年
Prompt 全文 (脱敏) ≥3 年
Completion 全文 ≥3 年
模型版本 + prompt 版本 ≥3 年
检索到的源文档 ID ≥3 年
医生采纳/拒绝 + 原因 ≥3 年

存储: - Postgres / Mongo 长留存 - 冷热分离 (30 天热, 3 年冷) - WORM 存储 (写一次多次读, 防篡改) - 权限: 只有院长办公室 + 合规部能访问

红线 5: 责任分担书面化

上线前, 书面文档明确:

  1. 医生的责任: 最终决策权 + 最终责任
  2. AI 系统的角色: 辅助信息提供
  3. 供应商的责任: 系统可用 / 数据不泄露 / 幻觉率不超阈值
  4. 医院的责任: SOP / 培训 / 审计

书面文件 (5 份必须齐): - AI 使用规范 (医生培训用) - AI 输出免责声明 (患者知情用) - 数据处理协议 (医院 vs 供应商) - 应急预案 (AI 挂了怎么办) - 事故复盘流程 (AI 建议错了怎么复盘)

落地技术栈 (私有部署参考)

[医生工作站]
    │
    ▼
[院内网关] ← 出口白名单, 无 PHI 出内网
    │
    ├─→ [RAG 检索] → Milvus (院内向量库) + PostgreSQL (元数据)
    │
    ├─→ [推理服务] → vLLM + Qwen2-72B / DeepSeek-V2 (院内 GPU)
    │
    ├─→ [审计日志] → MongoDB (WORM 模式) + 定时冷备份
    │
    └─→ [监控告警] → Prometheus + Grafana (院内)

GPU 选型: 4090 / A800 / H20 均可, Qwen2-72B 4-bit 量化下 A800×2 就够跑。参考 硬件成本估算。

高风险场景 (直接不要用 AI)

相关