住院 4 天 我意识到医疗系统最大的问题不是 AI 而是失控
一次意外摔伤后的桡骨骨折手术，让我真切感受到医疗系统中潜藏的结构性困境，这并非单纯的技术问题，而是系统层面的深层矛盾。
一、从一次手术说起：这不是医疗问题，而是系统问题
数月前，我因意外滑倒导致桡骨骨折，接受了手术治疗。
从临床角度审视，这不过是一台标准化程度颇高的外科手术：影像学评估、骨折复位、内固定植入、术后监护及康复指导。手术路径明确、操作流程规范、风险处于可控范围。
然而，当亲身卧于病榻，成为该系统中一名被处理对象时，所获得的体验截然不同：
- 每日被采集血液样本，却不明检测用意
- 获取检查报告后，难以解读各项指标意义
- 医生查房时虽解释病情，但信息高度浓缩且充满专业术语
- 康复进程持续推进，但无法量化自身恢复情况
逐渐地，一个根本性问题浮现出来：
这并非简单的医学知识门槛，而是更深层次的系统性缺陷。
二、重新定义问题：医疗系统的“控制权缺失”
暂且抽离情绪，以工程思维重新建模这一问题。
2.1 医疗系统的真实结构
从信息流与控制流角度观察，现代医院可抽象为三个层次：
决策层：医生（基于经验 指南 数据）执行层：护理系统 医疗设备记录层：HIS / EMR / LIS / PACS患者的定位在哪里？
患者：系统外输入 / 输出对象这是一个极为关键的结构性问题：
2.2 信息与控制的分离
在此系统中：
- 数据是完备的
- 决策是专业的
- 执行是规范的
但：信息流通至患者层面时，出现断裂，患者无法理解、无法干预、无法反馈。
进一步：控制权集中于系统内部，患者作为系统外部节点，处于被动接收状态。
这导致一个典型的系统缺陷：
信息闭环存在，但用户闭环缺失三、从 DevOps 到医疗：一个熟悉的问题
若具备 DevOps 或复杂系统经验，对此问题不会感到陌生。
在早期运维体系中，存在类似情形：
- 系统运行状态复杂
- 指标难以理解
- 故障原因不透明
- 操作风险不可控
后来我们引入了：可观测性、自动化、流水线、策略控制。这些改进本质上解决了一个问题：让系统内信息与外部认知之间建立可理解的桥梁。
那么问题来了：医疗领域能否借鉴同样的思路？
四、AI 的误解：能力问题，还是系统问题？
很多人第一反应是：用AI来解决患者理解问题。
确实，从能力上看，现代大模型已具备：医学知识理解能力、报告解读能力、语言生成能力、推理与总结能力。基于 Transformer 架构的模型，可通过医学语料训练，实现对医生语言的解释功能。
4.1 但问题不在“能不能做”
关键问题在于：AI是否被允许做？行为是否可控？决策是否可审计？
在医疗这种高风险场景中，问题从来不是：
AI 能不能做？而是：
AI 是否被允许做？AI 的行为是否可控？AI 的决策是否可审计？4.2 大模型的本质问题
从系统角度看，大模型具备三个特性：
- 概率性输出
- 不可完全解释
- 上下文依赖
这三点，在医疗场景中属于天然风险源。
五、关键缺失：AI 不缺能力，缺的是“Harness”
这里引入一个关键概念：Harness，即控制系统。
5.1 什么是 Harness？
在工程领域，Harness 的本质是：在能力与执行之间建立约束、审计与回退机制。
在 CI/CD 中：Pipeline 是 Harness，策略引擎是 Harness，回滚机制是 Harness。
5.2 医疗系统中的缺口
当前医疗系统具备：强执行、强知识。但缺乏：信息透明机制、患者控制接口、风险提示与反馈回路。
换句话说：
医疗系统 = 执行强 决策强 控制弱六、引入 AI Agent：但不是你想的那种
很多人理解的 AI Agent 是：聊天机器人、智能助手、自动问答。但在这里，需要的是另一种 Agent：作为理解层与控制层的桥梁。
6.1 Agent 的核心能力
一个真正可用的医疗 Agent，必须具备：
1️⃣ 状态建模能力
- 病例历史
- 手术记录
- 检查指标趋势
2️⃣ 解释能力
- 指标含义解释
- 医嘱翻译
- 风险提示
3️⃣ 推理能力
- 当前状态 vs 标准恢复路径
- 异常检测
- 趋势判断
4️⃣ 记忆能力
- 长期记忆
- 短期上下文
这些能力，本质上对应的是：
LLM Memory Tool State七、为什么仅有 Agent 是危险的？
这是一个必须强调的结论：单独引入 Agent 而不加控制，风险极大。
原因很简单：Agent 可以生成建议，但建议可能是错误的，错误在医疗中不可接受。
这就引出一个核心约束：
AI ≠ 决策者AI = 辅助理解者八、医疗 Harness 的设计原则
若要设计一个医疗控制系统，它必须满足以下条件：
8.1 权限分层
L1：信息解释（AI可自动）L2：建议生成（需医生确认）L3：决策执行（仅医生）8.2 风险控制
- 高风险操作必须人工审批
- AI 不得直接修改医疗行为
8.3 审计机制
- 所有 AI 输出可追溯
- 所有建议可解释
8.4 可回退性
- AI 参与不改变核心医疗流程
- 可随时降级为纯人工系统
九、一个完整的医疗 AI 架构
结合上述内容，可构建一个完整系统：
患者输入 ↓AI Agent（理解层） - 数据解释 - 状态建模 - 风险提示 ↓Harness（控制层） - 权限控制 - 风险评估 - 审计机制 ↓医疗系统（执行层） - 医生决策 - 护理执行 - 医疗设备关键在于：AI 不直接进入执行层，而是在理解层与控制层之间发挥桥梁作用。
十、回到体验：为什么你会感到“失控”？
现在可以重新解释最开始的问题：
你在医院的焦虑，并非来自手术或疼痛，而是因为：
你失去了对系统状态的认知能力进一步：
认知缺失 → 不确定性增加 → 焦虑AI 的价值，不是替代医生，而是重建患者对自身状况的认知与控制感。
十一、这个问题的普适性：不只是医疗
这种结构性问题，广泛存在于所有复杂系统中：
| 行业 | 问题 |
|---|---|
| 电商 | 订单状态不透明 |
| 物流 | 路径不可见 |
| 运维 | 系统状态复杂 |
| 制造 | 生产黑盒 |
统一表达为：
系统在运行，但人无法理解十二、未来系统的三层模型
未来的复杂系统，将统一为：
理解层（AI Agent）控制层（Harness）执行层（System）医疗只是最极端的场景，因为其风险最高、容错最低、合规最严格。
十三、结论：问题不在 AI，而在系统结构
用一句话总结全文：医疗系统的根本矛盾不在于AI技术的能力边界，而在于系统结构中控制权的缺失。
更进一步：唯有在理解层、控制层与执行层之间建立有效协同，才能让患者重获对自身状况的认知与掌控。
十四、下一步
在下一篇文章中，我们将从数据结构、语义表达和认知接口三个层面，进一步深入分析。
综观全文，医疗系统的核心问题并非AI技术本身，而是系统结构中的控制权缺失。构建理解、控制、执行三层模型，才能真正弥合信息与认知的鸿沟。