从纯技术角度来看，没有比AI在医疗保健领域更好的理想化解决方案在寻找问题的例子了。它有巨大的前景吗？绝对有。它会迅速从试点阶段过渡到生产就绪状态，解决广泛的行业和组织层面的问题，甚至在今年内？不太可能。但当涉及到可用性和高度颠覆性技术的早期采用时，炒作周期通常会超过现实。医疗保健领域的AI前景也不例外。
从管理护理组织或综合医疗交付系统的C级技术高管的角度来看，让我们通过AI概念验证（PoC）或演示项目的视角，看看一些务实且扎实的考虑因素。无论是由数字健康或SaaS公司开发的AI平台或服务，还是由企业或机构开发的新企业级产品，当涉及到PoC或试点演示时，同样的问题都适用。
鉴于今年生成式AI在几乎每个董事会或战略撤退中所获得的轰动效应，许多C级技术高管被要求回答“你们能否展示适用于我们组织的AI用例及其价值主张？”这一问题。实际上，经验丰富的医疗保健技术领导者并不急于走在技术前沿，而AI引入了许多未知数。重新调整炒作，突出风险/收益证据，是最佳结果，这应在受控且分阶段的沙箱中实现。一个构建良好的PoC本质上是新技术能力解决实际问题的实证展示，使用真实数据。它是功能和价值主张的组织背景化展示，通常由一个或多个明确定义的用例驱动。
然而，对于一种低信任度、高颠覆性和广泛适用性的新型技术来说，产生脚本化结果的演示，使用模拟数据，是一种毫无意义的练习。没有真正测试变化性。事实上，大多数医疗保健企业首先选择展示基础通用AI功能和性能，以建立信任，然后再进行临床或运营试验。为了澄清，这里我们将术语AI集体使用，专门代表生成式AI，它基于其学习能力从训练模型中创建新数据，包括检索增强框架。
最终，医疗保健领导层将在任何AI试验的早期寻求回答几个总体主题问题。证据表明，该应用能够一致地解决明确识别的问题或痛点，并可靠地产生预期的结果，这是使用的基本条件，但不是充分条件。此外，它是否能产生可量化的收入和/或利润影响，是否可以无缝嵌入我们的工作流程？更重要的是，企业使用是否会增加或减少我们的潜在责任，包括医生、临床或监管合规风险？这些未验证的不确定性代表了AI采用的重要障碍，及早预见这些问题可以大大有助于具有明确成功标准的分阶段PoC的有效性。
通常情况下，执行层和董事会领导更喜欢先展示AI能力的基本演示，然后再关注可能推动护理启用和交付的集中AI解决方案，或关闭诊断、实时情报或预测差距以改善结果。早期有效性和可靠性的证据是接受的绝对前提，因为医疗保健领域的AI容错率很低。使用不太显眼但具有代表性的情景，使用上下文（非PHI）数据来回答基本问题或执行核心功能，是一个合理的起点，例如用于运营服务的聊天机器人或自动化效率。例如，在PoC术语中，我们能否证明语言模型可以在不使用患者或成员数据的情况下解决特定问题，或者至少使用根据HIPAA安全港指南去标识化的PHI数据？该模型是否能在一段时间内始终如一且可靠地产生在可接受误差范围内的结果？正式解决或嵌入展示核心能力的证据，这些能力展示了有效性、安全性和可用性，可以在董事会级别展示成果时减轻关键未知数。
关于有效性，组织长期支持AI的理由在于AI模型评估和回归测试的能力。请记住，这些能力的展示往往与一般试验结果本身一样重要。虽然仍不能跨独立用例推广，但它仍然显示了企业方法的开始，以及可以在各种数据源和维度上重复使用的评估能力，同时控制模型偏差。展示有效性对于任何PoC都很重要，但它也展示了进一步使用AI的核心能力，无论是在内部开发的应用还是通过第三方SaaS平台集成的应用。LLM的评估是一个复杂的过程，尽管与传统应用程序测试方法有相似之处，但对于大多数医疗保健组织来说，这是一个实质性的不同能力。QA和回归测试框架历来将错误逻辑地归因于结构化代码，使用预测测试案例迭代。LLM更加动态，生成随时间学习而变化的无限输入和输出算法。这需要新的框架和核心能力，不应完全外包，考虑到风险和AI在医疗保健中潜在用途的范围。
AI和语言模型的性能，以及它们的开发和验证实践，可能会作为新颖组件引入即将出台的监管要求，以确保可靠性、一致性和无偏见的有效性。鉴于HIPAA和PHI潜在责任的重大性，领先于滞后监管响应的风险是高级医疗保健技术领导层的另一项感知责任，这也代表了组织缓慢采用的另一个可能障碍，特别是对于诊断或临床重要的用途。考虑到安全性，即使提出的数据屏蔽PHI的模型也需要经过安全委员会和风险评估委员会的大量审查，才能获得PoC批准。根据试验范围和组织要求，这可能需要几个月的时间。在PoC计划的早期解决这些问题。还应准备好Hi Trust认证要求，并考虑在AI框架和架构以及PoC工件中纳入这些组件，远在引入医疗保健用例之前。
由于AI超出了传统应用程序开发的边界，它也带来了新的风险。由于其规模和容量，AI扩展了从检索到存储和传输的数据管道的攻击面，尤其是当与敏感保护数据结合时。AI安全是PoC试验早期需要验证的另一个核心能力。LLM存储和处理大量数据，使其成为数据泄露的主要目标。系统地监控和清理LLM输入，加上高度安全的数据和加密协议，是至关重要的。在可用性方面，无论是完全自动化还是为了超越分析自助服务瓶颈，体验映射都是关键，以了解AI如何在组织中被消费和使用。无论是否存在人类界面，都有一个需要在微观和宏观层面上进行监控和治理的AI体验。这项练习将初步形成对治理要求的思考。此外，与任何颠覆性技术的应用一样，结果的质量直接与数据质量相关，因此AI在实践中将暴露数据弱点，无论是结构化的还是非结构化的，而不是掩盖它们。虽然AI有潜力彻底改变护理交付和关键服务，但它也为日常治理带来了风险和挑战。这需要质量和合规性监测，以及对AI如何在整个企业中用于决策或行动的持续关注。
在定义问题的背景下，始终最好从工作流层面映射AI旨在解决的痛点或流程缺口，以展示和对齐价值主张与结果。这种体验映射模型是所有用例的信任和可用性框架的核心。AI炒作的负面影响是急于向医疗保健市场推出一种假定能解决所有问题的解决方案。设计思维原则在解决方案先于问题定义的纪律时是不合时宜的，这导致未经验证的假设，增加了AI和技术赋能服务的风险（和成本）。这正是为什么医疗保健行业在明确AI价值主张方面似乎挣扎的原因，使许多组织质疑为什么假设的解决方案失败，或者至少未能产生预期的结果。当通过以用户为中心的体验渠道时，AI可以解决医疗保健领域的许多组织和行业层面的问题。理想情况下，近期用途将集中在平衡现有转型计划，这些计划已经滞后，并广泛识别医疗保健价值链中降低成本的机会。例如，基于价值和消费者驱动的护理的实际化在很大程度上依赖于支付方-提供者-患者数字生态系统的有效性；然而，提供者在这些能力的开发和采用方面远远落后。作为突破性技术，AI有潜力消除这些差异，推动消费者护理启用，实现数据使用和互操作性的民主化，并规范流程以持续改善健康结果。组织上，这也意味着要填补基于价值的护理报销中的临床实践和文档缺口，以及捕捉风险调整和相应收入。
除了解决当前问题外，还有巨大的希望加速开创性的创新，例如基因组学和转化医学与下一代医疗保健交付的融合。总之，生成式AI的炒作和急于市场可能导致医疗保健PoC过于遥远，过于迅速。这项技术的前景是普遍且具有差异化优势的，有远见的领导者将投资于核心能力的开发，以利用AI解决方案解决许多问题。绝大多数组织将难以评估AI模型的性能、价值效果和可验证性，企业将面临挑战，以确定哪些公司拥有必要的数据和专业知识来调优AI模型，并有效结构化和映射医疗保健数据。从企业管理的角度来看，外包多个供应商的“一次性”解决方案，进行多次PoC试验和框架，是不可行的。为什么技术领导层会出于竞争的急迫性外包AI解决方案并承担所有下游风险，或将这一概念呈现给他们的董事会？更明智的做法是在基本的AI试验中尽早展示核心能力，展示管理这一战略资产的评估能力。此外，这种方法将自然揭示尚未存在的AI政策的合理性。在任何用例驱动的PoC中，纳入我们提出的考虑因素是有意义的，这将有助于减少采用障碍，并更有效地将医疗保健用例从试点推向生产。为了帮助缓解这些挑战，AI解决方案提供商和行业领导者应考虑在PoC框架中嵌入这些概念，以展示企业级AI使用评估的新能力。
(全文结束)
