AI驱动的医疗保健系统为何仍失败：被忽视的采用差距 - AI与医疗健康

被忽视的差距

行业在会议、董事会或新闻稿中展示的医疗AI版本，与实际部署的版本之间存在着巨大差异。在理想版本中，临床医生能够流畅地使用智能系统，信息在需要时精准呈现。决策速度更快，文档工作更少，这一高要求职业的认知负担显著减轻。

而在实际部署的版本中，培训可能只进行一两次。少数早期采用者会使用AI，然后人们便悄然回归旧有工作方式。这些人员并非抗拒变革或技术，而是因为新系统——尽管功能强大——反而使他们的实际工作更加困难。

这一矛盾描述了"采用差距"。正如阮秀（Thuy Nguyen）等人在2025年关于医疗保健领域人工智能采用的文章中所展示的，尽管投资迅速增加，医疗领域的AI采用率仍落后于经济其他部门。在医疗领域，这一差距使组织损失时间与金钱，更关键的是，使它们失去了最初试图改善的核心要素。

医疗AI的讨论一直被"能力"所主导：AI系统能做什么、模型有多准确、能处理多少数据。尽管这一讨论是必要的，但并不充分。AI系统能力与医疗工作者实际日常使用的差距不是技术问题，而是设计问题。除非行业将其视为设计问题，否则这一模式将不断重复。

医疗环境现实

在讨论AI在医疗中应做什么之前，有必要诚实地面对现实因素。

医疗环境并非整洁、优化、等待新系统无缝嵌入的场所。多年在压力下做出的决策累积起来；工具因便利性和可用性而被采用；工作流程围绕现有系统的局限性建立；习惯形成是因为一致性（即使不完美）比实验更安全——当患者健康处于风险中时。正如阿斯加里（Asgari）等人在2024年的文章所述，结果是大多数医疗工作者在碎片化的数字环境中操作：不同的登录方式、不同的界面和互不沟通的数据源。临床医生查找单一患者信息可能需要接触三四个系统才能找到。这不是一个特殊问题，而是大多数医疗技术部署的基本环境。

遗留系统在此环境中持续存在，并非因为员工认为这些系统理想，而是因为人们已学会在系统怪癖中使用它们。用户知道什么可以信任，什么需要双重检查。他们知道如何获取所需信息，即使系统使其比应有难度更大。这些知识具有真实价值，而产品路线图上无法体现。

当AI进入医疗环境而未考虑遗留实践时，通常会发生两种情况之一。要么AI成为叠加在现有碎片化之上的另一碎片化系统——需要管理的又一个标签页，需要并行维护的又一个工作流程；要么它试图替换现有系统，但未能赢得使替换感觉安全的信任。正如莫伊（Moy）等人在2023年所记录的，工作流程碎片化是临床医生文档负担的主要驱动因素。

AI在医疗中提供的真正机会不是任何单一算法或能力，而是统一性——将碎片化信息带入连贯、可导航的工作空间的能力。统一性减少了临床医生在任务间必须进行的上下文切换次数；AI使信息可查找，而不使查找本身成为一项任务。AI需要技术集成，更重要的是，理解人们实际如何工作——不是过程图指示他们应该如何工作，而是通过UX研究和以人为中心的设计。

当系统成为问题

医疗AI中存在一个未被充分讨论的失败，因为在高层面上它似乎不是失败。系统启动，人们使用它，数字进入仪表板。然而，有些地方不对。怀疑是合理的。在一项针对医院高管的调查中，仅有12%相信当前AI算法足够可靠可依赖。

问题是AI产品不够可靠，无法在不经验证的情况下被信任。输出有时准确，有时不准确；它们可能不会严重错误，只是错误到足以使任何具有专业判断力和患者责任的医疗工作者在不检查的情况下不愿依赖它们。因此，他们每次都要检查。在此过程中，医疗工作者现在做两份工作：他们的原始工作加上AI审计。

这并非边缘案例，正如莫伊等人所述。当系统围绕理想性能而非现实性能设计时，就会发生审计，例如当"AI足够准确吗？"这个问题用基准数据而非情境观察来回答时。在受控评估中85%准确的系统，在临床病房中可能带来有意义的摩擦，因为15%的失败率并非均匀分布，而医疗工作者无法提前知道哪些输出属于哪一类。结果是增加了认知负荷而非减少它的验证环路。在医疗中，认知负荷不是抽象的可用性问题，因为它直接与护理质量相关。

使这一失败特别有害的是，它经常长时间未被解决。用户不会提交错误报告，也不会向产品团队升级问题。用户会适应并开发自己的变通方法，通常是"对简单事情使用AI，对重要事情忽略它"。最终，他们甚至不再打开它，从而使系统成为搁置的"架上软件"，而仪表板继续显示参与度指标。

参与度和信任不是同一回事。这一UX经验令人不安但重要：良好的设计无法修复根本不可靠的技术。糟糕的设计会使不可靠的技术变得更糟。不清晰的界面对不准确的系统不仅令用户沮丧，还会加速他们完全放弃的时刻。

"如果没坏，就别修"的合理性

当医疗工作者抵制新技术时，产品团队的本能通常是将其视为组织变革管理(OCM)问题，认为可通过更好的培训、沟通或入职来解决。有时这是对的，但往往忽略了现实。

考虑医疗工作者采用新系统的成本。有时间投资，包括学习新界面、建立新的肌肉记忆和理解新逻辑。有认知投资，包括新系统需要主动思考而非自动行动的时期。还有风险——即错误更可能发生的时间窗口，这不是因为无能，而是因为任何新系统在支持熟练之前都会引入不确定性。

在大多数行业中，这种成本是可以管理的。在利润微薄的医疗中，它是在患者护理、临床决策、团队沟通、文档需求和持续中断的背景下承担的。要求医疗工作者承担新AI系统的学习曲线不是小请求；这是要求工作者在不容忍错误的环境中承担额外风险。"如果没坏，就别修"不是技术恐惧症；这是人们基于理解工作中出错成本而做出的理性计算。

OCM与用户体验以行业一贯低估的方式相交。OCM既不是启动事件，也不是上线当天的培训环节。它是持续、有意识地带领人们前进的过程，必须由指导设计的相同研究提供信息。理解用户害怕失去什么、他们还不信任什么，以及在改变行为前他们需要验证什么，这是UX研究。正如萨顿(Sutton)和拉奥(Rao)在2024年《摩擦项目》中所论证的，聪明的领导者使正确的事情更容易，错误的事情更难，减少阻碍良好结果的摩擦。将采用视为沟通问题会产生新闻稿；将它视为设计问题会产生真正的采用。

领导层的认可以产品团队有时忽视的方式很重要。在高风险环境中，人们会以上级为榜样。差距是真实的：在一项调查中，只有13%的医疗高管报告拥有将AI整合到临床工作流程的明确战略。当可见、真实的组织承诺存在时——当它不仅是命令而是明确的信念时——它会改变个体用户的风向计算。承诺表明组织仔细考虑了这一变化，这不是在他们时间上运行的实验，并且如果出现问题，员工之上有问责制。

真正有效的做法

在所有这些之后——碎片化、验证环路、理性抵制——我们需要具体说明当以人为本的设计在医疗AI上应用良好时应该做什么。基本原理经常在急于部署能力的过程中被降级。

无情地减少认知负荷。 每次上下文切换都有成本。根据阿斯加里等人的研究，每个额外的标签页、每个登录提示、用户必须记住哪个系统持有哪些信息的每一刻，都是从已经透支的认知账户中提取的小额资金。萨顿和拉奥(2024)所说的摩擦的核心是使正确行动比应有难度更大的小而累积的力量；设计的工作是消除摩擦。在医疗中被采用的系统几乎总是那些使用户一天明显更简单——不是更强大，而是更简单——的系统。要问的问题不是"我们能添加什么？"而是"我们能消除什么？"

使搜索和发现无摩擦。 在高压环境中，用户没有时间学习搜索语法或导航复杂的信息层次结构。目标不是教会临床医生编写更好的查询；目标是构建解释不完美查询的系统。人们与AI搜索的互动方式与使用网络搜索栏相似，使用简短、近似且有时拼写错误的查询。与其通过提示工程将更正负担推给用户，设计良好的系统会吸收它。2022年显示，考虑到同义词、拼写错误和替代短语的自然语言方法，帮助临床医生比字面关键词匹配更快地检索信息，并且认知负担更低。如果查找信息需要超过几秒钟的主动努力，它就不会被找到，如果找不到，它就不会被使用。如果通向洞察的路径不清晰，那么该洞察就等同于不存在。

主动呈现相关信息。 设计良好的AI系统能做的最有价值的事情是预测用户在提问前需要什么，不是以侵入性或杂乱的方式，而是以让系统似乎理解正在完成的工作背景的方式。这种设计需要对实际工作流程的深入了解，这就是为什么它不能仅凭假设设计。

为清晰度而非能力设计。 产品开发中的本能是展示系统能做什么。在医疗中，这种本能会产生充满用户没有时间探索的功能的界面。一个干净的界面，只显示重要内容，隐藏不重要的内容，并非缺乏雄心。这是一个需要足够研究以了解什么重要、什么不重要的复杂设计选择。

通过研究而非假设建立信任。 每一个无法追溯到真实用户所说或所做之事的设计决定都是猜测。在大多数行业中，猜测可以恢复，而在医疗中，它们会累积。真实、持续、情境化的研究不是产品时间线中的一个阶段。它是决定产品是被使用还是被忽视的基础，必须从头到尾融入项目生命周期的内部运作。

UX研究不是一个阶段

在医疗技术中实践的UX研究有一种版本：启动前的一轮用户访谈、发布前的可用性测试以及之后的满意度调查。这种类型的研究比没有好，但不够。临床系统中的文档负担和可用性问题始终追溯到未能考虑真实工作流程的设计。

设计工作流程与实际工作流程之间的差距几乎总是比团队预期的要大，在医疗中，仅靠访谈很少能暴露出来。人们描述他们认为自己如何工作，或应该如何工作，或上次重组前如何工作。观察揭示了不同的东西：变通方法、非正式知识共享和在几秒钟内发生的判断调用具有重大意义。

研究还验证了AI在情境中的表现，这与在实验室中验证不同。在基准数据集上表现良好的系统，在真实临床环境中可能表现非常不同——这些环境的文档混乱、不完整且格式不一致；临床搜索工具的对照研究表明，性能和可用性必须针对真实任务而非理想化输入进行衡量。区分数字现代化（更新现有系统）和数字转型（从根本上改变工作完成方式）可以降低犯错成本，这种成本在后期被发现时会成倍增加。IBM系统科学研究所广泛引用的原则指出，早期发现的问题可能比系统投入生产后发现的相同问题成本低约100倍（NIST，2002）。在部署前理解差距，是成功启动和昂贵回退之间的区别。

最重要的是，用户参与的设计培养了所有权。当用户看到他们的反馈反映在产品中——当第一轮测试中困扰他们的事情已得到解决，或当他们要求的功能已实现时——他们成为倡导者而非抵制者。他们对产品成功的利益相关创造了可靠推动采用的心理转变。

构建可用AI的才华横溢、积极进取的团队通常不是临床医生、协调员或在压力下使用这些系统的人。UX研究将工作中的人置于每个决策的中心。

无法自行构建的桥梁

AI将继续变革医疗。模型将变得更好，集成将更深入，技术可能性与临床环境中当前存在之间的能力差距将继续缩小。这一点没有疑问。疑问在于采用差距是否会随着UX研究的支持而缩小。

医疗技术的历史充满了真正有能力但未被使用的系统，不是因为它们是坏技术，而是因为构建它们所针对的人从未真正在构建过程中处于中心位置，正如门洛风险投资(Menlo Ventures)在2025年所述。我们可以从假设的工作流程、被低估的认知负荷以及未正确实施的变革管理中吸取教训。当用户面临使他们要求高的工作变得更困难以换取看不见的未来利益的系统时，他们做出了唯一可用的理性选择。

AI并没有改变围绕采用的这种动态，而是加剧了它：系统越有能力，失败就越令人困惑。

以人为中心的设计为AI产品提供的不仅是最后修饰。以人为中心的设计形成了决定产品是否能到达预期用户的基础设施。在医疗中，该基础设施区分了改变结果的技术和除了预算外什么也不改变的技术。

每个在医疗领域工作或与之相关的UX从业者都应该问的问题不是"我们如何构建正确的功能？"而是"我们如何尽早进入房间，确保构建的是正确的功能？"