医疗保健领域似乎有大量解决方案宣称具备人工智能驱动功能，从智能助手到通信平台不一而足。但这些解决方案是否展示了切实的业务成果，仍悬而未决。
自ChatGPT公开推出近四年来，关于AI以及使此类解决方案在医疗保健领域发挥作用所需的数据管理流程，仍然存在误解。《健康科技》杂志联系了三位行业AI专家，以评估期望与现实之间的差距：德克萨斯大学休斯顿健康科学中心（UTHealth Houston）学习型健康系统教授兼副总裁刘宏芳；耶鲁纽黑文健康系统高级副总裁兼首席数字健康官李·施瓦姆博士，以及耶鲁医学院神经学、生物医学信息学与数据科学教授兼数字战略与转型副院长；以及杜兰大学健康政策与管理研究教授王晓燕。
《健康科技》：关于AI在医疗保健中的应用有哪些误解？
王晓燕： 很多人认为AI非常强大，能够自动完美地标准化来自所有不同来源的不同格式，并且无需太多人工监督。不——完全还没有达到那个地步。在医疗保健领域，数据端仍然是最具挑战性的问题。另一方面，自然语言处理本身或大型模型可以加速或减少我们在标准化上花费的时间，但它实际上还没有实现自动化。
施瓦姆： 第一个误解是AI比医生更聪明，将会取代他们。这根本不是对AI将在医疗保健领域贡献价值的准确理解。第二个误解是，幻觉是AI模型出现问题或无法正常工作的标志。现实情况是，幻觉只是描述AI预测模型未能完全正确时的一种说法。它们只是预测模型。幻觉可能用词不当；我更愿意称之为不准确的预测。第三个常见的误解，我认为，是患者可以自己使用聊天机器人来获得可靠的医疗建议，这也是一种对聊天机器人功能的误解。聊天机器人在某些情况下会胜过医生，但它们不具备吸收并非直接提供给他们信息情境的能力，因此需要将情境进行整理和提供。
刘宏芳： 最大的误解是AI最终会取代临床医生——这都源于放射科医生将被取代之类的说法。我认为这是一种误解，因为AI实际上依赖人类进行数据生成和解释，并且由于法律责任，AI本身无法独立作为代理运作。由于多种原因，我们距离基于代理的决策制定还很遥远。在现实中，在医疗保健领域，AI可以增强临床专业知识并减少一些重复性任务，但医疗服务的判断力和情境理解仍然需要人类代理，而非AI代理。
《健康科技》：数据标准化对您意味着什么，您在工作中如何应对？
王晓燕： 表述“A1C测试”有26种方式，而且它们的格式都不同。如果没有临床知识，很难把它们全部找到。这意味着你可能只能捕捉到一半患者的A1C测试结果。他们实际上治疗得很好，但他们的数据对最终结果没有贡献。标准化就是将所有这些变体转换为一种。我们称之为通用数据模型。从这个意义上说，标准化非常重要。
施瓦姆： 你必须理解如何处理多样化的数据格式。对于你可能会遇到的情况没有预先训练。此外，这些不同的数据来源也存在不一致性。所以，你有数据格式的多样性，而处理文本和图像等非结构化数据意味着：在维护数据质量的同时确保数据隐私和安全是极其重要且富有挑战性的。你希望以既能避免重要信息丢失，又不会导致结果偏离对相同数据进行细致人工审查所得到的方向的方式来做这件事。我认为人们错误地认为AI算法能够可靠地对非结构化数据进行去标识化处理。这是一个非常常见的误解。
刘宏芳： 我们知道，为许多不同的用例准备静态的标准化数据是困难的。AI可以通过一个支持AI的数据标准化框架来促进数据标准化过程。有许多标准可以采用，如果标准与用例不一致，那么你的过程也需要灵活应变。拥有那个带有AI功能的标准化框架至关重要。这将为数据使用促进一个快得多的过程。
《健康科技》：AI驱动的临床研究工作流程的责任在多大程度上落在临床医生身上，而在多大程度上落在IT领导者身上？
王晓燕： 临床医生肯定需要将他们的知识和经验融入工作流程。他们的领域知识，特别是在临床评估以及伦理应用方面，也非常重要，同时还有在整个工作流程和患者护理的背景下对AI输出的解释。IT领导者负责处理如何建立基础设施、数据安全、系统不同模块之间的互操作性以及合规性。他们还需要确保可扩展的部署，使其不仅对少数医生有效，而且对所有医生都有效，并无缝融入整个工作流程。
施瓦姆： 关于谁对AI的负责任使用拥有问责权，有一个重要且未解决的问题。我认为我们需要一个共享的责任或责任模型，该模型融合了传统的产品责任概念，从开发算法的供应商，到决定如何部署该算法的IT领导者，再到被期望遵循良好临床实践原则来使用它的最终用户。我认为每个人都拥有那份共享责任的一部分。你不会把电动工具交给一个蹒跚学步的孩子，因为你知道即使它附带了各种产品警告和使用说明，他们也没有安全使用它的技能和经验。我们必须确保我们的最终用户经过适当培训并掌握使用这些工具的熟练程度，但供应商也必须承担一些责任，确保他们的产品以符合其适应症的方式使用。
刘宏芳： 这应该是共同的责任。是的，临床医生需要定义有意义的用例，验证结果，并确保它们在科学上是严谨和可重复的。IT和信息学领导者负责确保数据质量、可靠性、合规性和模型治理，因为临床数据本身被用于临床研究。它们通常带有隐私或监管相关的组成部分，因此它们无法单独运作。组织不能将AI仅仅视为IT解决方案。世界在采用影响方面存在困难，因此共同所有权对于在临床研究中实现可信赖、高效的AI部署是必要的。
《健康科技》：关于AI在医疗保健中的业务目标有哪些误区？
王晓燕： 有了AI，人们肯定认为成本降低明天就会发生，因为很多事情都自动化了。我认为投资回报率方面的情况对于大多数任务来说并未明确建立。很多公司都在开发应用程序，但我们仍然没有看到明确的投资回报率，因为现在还相对早期。另一方面，如果我们专注于一个很小的、定义明确的任务，我们会清楚地看到成本降低。
施瓦姆： 我认为最大的误區是医疗保健领域的AI专注于改善健康结果。现实情况是，目前部署的大多数AI要么专注于成本控制、收入增长，要么是减轻医护人员的负担。很少有这些算法直接影响患者护理本身。事实是，目前部署的大多数应用程序并不直接触及患者护理或临床护理。它们中的大多数是后台流程、编码支持，让医疗服务提供者的生活稍微轻松一些。这些是风险最低的领域，因此也是大部分工作集中之处。
刘宏芳： 我认为业务目标方面最大的神话是关于成本节约。我们知道它可以变得高效，但AI的好处将体现在提高护理质量、减轻临床负担、改善诊断和支持更好的人群健康洞察上。AI不会为医疗保健系统省钱，但它是确保数字化转型的后果能给你带来大量数据的一种方式。我们需要技术来支持我们获得数据驱动的洞察和自动化的工作流程，以应对我们面临的数字过载问题。
《健康科技》：学术研究人员、医疗系统和科技领导者如何合作才能在医疗保健领域实施AI？
王晓燕： 我认为临床医生需要真正告诉IT领导者：“这是我每天花数小时的痛点，我认为它非常重复。你能把它自动化吗？”我认为IT领导者需要真正吸收来自医生的知识，并且他们需要非常清楚地了解场景和工作流程。麻省理工学院有一份非常有趣的报告，基本上说95%的AI试点项目都失败了，因为这些方面并没有真正协同工作。IT只专注于技术，而医生只专注于领域。他们没有真正把这些东西整合在一起。
施瓦姆： 在学术医疗系统内部建立透明且有意义的共享治理模式是至关重要的组成部分。但我也认为技术领导者——这里我指的是医疗系统之外的硅谷和其他科技初创公司——需要站出来，致力于对其算法进行更严格的训练方法，并承担起部署后监控的责任，而这目前完全落在医疗系统身上。考虑到这些算法的成本、复杂性和不断变化的特性，将这一负担完全放在作为AI部署者的医疗系统身上是不可持续的。
刘宏芳： 每个群体都可以贡献其优势。学术研究人员可以带来方法和评估方面的专业知识。医疗系统可以制定自上而下的策略，将临床背景带入AI实施，并支持工作流程重新设计。技术领导者需要提供工程、可扩展性和部署能力。对我们来说，AI部署不是一个技术问题。技术实际上是在整个过程中最容易的部分。为了真正交付价值，合作关系需要在定义和制定AI支持的工作流程的早期就开始。这需要共同设计。否则，你将面临很多问题。
《健康科技》：您如何保持医疗保健员工采用AI的积极性？
王晓燕： 许多临床医生仍然不信任AI，这就是为什么他们不想使用它。在项目开始时让他们参与进来，同时了解他们的需求，将他们的领域知识融入系统，并让他们评估系统。通过评估，他们可以看到，“这确实和我日常工作中的判断一样，那么我就可以使用它。”所以，我认为信任是整个AI领域最重要的事情，因为很多用户缺乏信任。从一开始就让他们参与进来，并展示输出结果，这样他们就会真正有动力与您合作，并在部署后使用它。
施瓦姆： 主要地，就像其他任何事情一样，在考虑采用时，考虑“这对我有什么好处”总是很重要的。我认为我们必须专注于利用这项技术的体验式学习：向他们展示AI如何帮助他们的日常工作，如何彻底改变他们的工作方式，创造全新的做事方法，并让实施AI的好处部分归属于使用AI的人，而不仅仅是公司的利润底线。
刘宏芳： 他们需要看到AI可以直接生成数据集，并帮助他们做以前做不到的事情。要生成使用传统机器学习相关方法所需的数据集，你首先需要生成带标签的数据集。当带标签的数据集成本高昂且需要人工努力时，我们通常选择制作小得多的带标签数据集，但我们使用AI生成弱标签，然后由人进行验证。这对他们有很大帮助；当人们看到这一点时，他们会对技术产生信心和信任。当你有了信任，再加上支持它的证据，采用就不会有问题。
《健康科技》：临床医生需要哪些技能来更好地实施AI？
施瓦姆： 他们需要培养一些提示工程技能。他们需要理解AI模型做什么，以及如何通过提示来微调该模型的性能，以获得你想要的输出。他们需要基本的AI素养，同时也需要有创造力的空间，配备合成数据和数字沙盒或试验场，以便他们进行实验。对我来说，这就是AI在临床应用中采用和变革的秘诀。
刘宏芳： 我认为临床医生需要一些基础的数据素养和对AI模型机制的基本理解，以及解释结果的能力。但我不认为他们需要成为数据科学家、AI科学家或AI工程师来进行AI部署。他们需要在这些主题领域拥有足够的知识，但不要耗费宝贵的患者护理专业知识去做AI实施工作。
《健康科技》：在现实中，AI是如何从研究转化为医疗保健中有效的业务流程的？
王晓燕： 我认为第一件事是真正了解需要什么，痛点是什么，然后构建概念验证研究，通过自动化过程真正解决这些痛点。这是第一件事——开发源自真实临床需求的即时护理算法。然后，你进入第二件事，即在临床环境中进行试点。第三件事是规模化。
施瓦姆： 这是一个包含几个步骤的过程。它始于部署前的严格评估，选择具有证明价值的工具，然后在你的组织内部测试时确认其性能。该验证可能通过前瞻性或回顾性、对过程和结果进行静默评估来实现，这些评估需要简单便捷的工作流程集成，而不是复杂繁重的工作流程变更。你不能要求人们改变他们做所有事情的方式才能从AI中获得价值。AI必须适应现有的临床或业务流程，并与现有技术平台协调一致，而不是作为一种独立的过程。
刘宏芳： 我积极研究如何使用三个词来确保AI创新能够解决医疗保健面临的现实世界问题：希望、信任和科学。希望反映了人们正在解决现实世界中的问题。我们不是在试图创造一个要解决的问题，而是在解决一个已经存在的问题。医生倦怠是一个真实的问题，AI智能记录是一个解决方案，将获得广泛采用，因为这是医生面临的现实世界问题。信任可以很容易地建立起来，因为你正在解决那个问题。你不是在试图取代临床医生，而是在增强临床医生，解决他们面临的与临床文档相关的问题之一。科学基本上就是试图理解并收集与部署相关的结果数据。这个“希望-信任-科学”框架可以将你的AI从技术实验转变为可靠的业务能力。
医疗保健领域AI温度检测
从评估组织和消费者对在医疗保健中使用人工智能的看法，到某些模型的准确性，以下是该领域AI的快速概览：
- 62%：表示其组织有很好的AI想法但难以执行的IT专业人士比例
- 70%：认为AI不应取代医生的人数比例
- 66%：2024年报告使用医疗保健AI的医生比例，高于2023年的38%
- 90%：ChatGPT“在根据病例报告诊断医学状况并解释其推理时”获得的平均得分
【全文结束】