在拉斯维加斯举行的HLTH 2024会议上，伊利诺伊大学医院和健康科学系统的首席健康信息官卡尔·科赫恩多夫（Karl Kochendorfer）回忆起一个案例：当该系统测试一种基于人工智能的工具，用于草拟患者消息回复时，一位患者拼错了药物名称。结果，AI给出了患者并未使用的药物的副作用，因为护士忘记双重检查回复。最终，这并不是一个大问题——他们只需打电话或发送另一条消息进行更正。但他表示，这一事件“几乎终止了试点”，而且发生在第一天。
随着医疗保健行业努力安全实施AI技术，投资者和医疗系统首先看到了自动化行政和后台工作的潜力，这可能有助于减轻医生的倦怠，并对患者护理构成较少的风险，专家们表示。然而，采用这项技术的压力很大。支持者认为，AI可以帮助解决医疗保健领域严重的劳动力短缺问题：据咨询公司Mercer的一份报告，到2028年，全国将面临超过10万名关键医疗工作者的短缺，因为总体人口老龄化，需要更多的护理。
尽管AI可能具有变革性，但该行业在实施新兴工具时必须谨慎行事。政策制定者和专家已经对准确性、偏见和安全性提出了担忧。实施AI在医疗保健中是复杂的，该行业应该从之前部署的一些预测工具中吸取教训，Roon健康信息应用程序的联合创始人兼首席医疗官罗汉·拉马克里斯纳（Rohan Ramakrishna）在HLTH会议的一个小组讨论中表示：“我认为我们学到的一点是，在医疗保健环境中应用AI解决方案时必须极其谨慎。”
AI如何帮助解决供需失衡
凯撒永久医疗集团（Kaiser Permanente）的人工智能和新兴技术副总裁丹尼尔·杨（Daniel Yang）在小组讨论中表示，AI可以帮助缓解医疗保健领域最大的问题之一：越来越多的老年患者患有更复杂、慢性疾病，而能够帮助他们的提供者却越来越少。随着老年人需要更多的护理，千禧一代作为美国最大的一代人，希望获得更加按需的消费体验。但在供应受限的情况下，实现这一点将非常困难。培训一名新医生需要多年时间，而医生数量减少意味着更多的倦怠、护理延迟和更高的成本。“这甚至不是关于AI的问题，而是我认为医疗保健普遍存在的问题。我们看到的是供需之间的简单失衡。”杨说。
AI可以增强临床医生的工作流程，帮助他们提供更好的护理。杨表示，由Permanente医疗集团研究人员开发的一种算法每年通过标记有临床恶化风险的患者，拯救了500人的生命。
“对我来说，这节省了时间。但归根结底，对患者更好，因为他们觉得被听到了。这对我而言确实是一次变革性的体验。”萨凡纳血管研究所的血管外科医生克里斯托弗·威克森（Christopher Wixon）在小组讨论中说。
投资者和医疗系统关注行政负担
鉴于提供者的繁重行政工作量以及对涉及临床决策的模型中错误或偏见的担忧，解决行政问题的产品成为AI采用的首要优先事项。一些投资者也对自动化这些运营任务更感兴趣。“我们将继续关注那些能够真正减轻劳动力负担的不那么吸引人的后台自动化，而不是与临床相关的AI。”.406 Ventures的合伙人帕亚尔·阿格拉瓦尔·迪瓦卡兰（Payal Agrawal Divakaran）表示。
根据Silicon Valley Bank本月早些时候发布的一份报告，今年行政AI公司吸引了更多的风险资本。截至2024年，行政AI公司筹集了24亿美元，而临床AI公司筹集了18亿美元，这可能是因为较低的监管和机构障碍，尤其是对于决策支持工具。“我们看到所有这些行动都集中在行政任务上，但也集中在预授权和其他低价值任务上。”SVB生命科学和医疗保健银行业务信贷解决方案主管梅根·舍费尔（Megan Scheffel）在接受采访时说。“你可以让你的办公室工作人员转移到更高价值的项目上。”
Google Research的杰出科学家兼健康AI负责人格雷格·科拉多（Greg Corrado）在小组讨论中表示，现在有很多机会可以使用大型语言模型作为起草工具，包括笔记或护士交接文件。由于提供者在最终确定前需要审查输出，因此内置了监督机制。通过询问用户的体验或检查他们需要进行多少修订，也可以更容易地评估质量。然而，克利夫兰诊所风险投资公司的合伙人托德·施瓦辛格（Todd Schwarzinger）在接受采访时表示，在评估运营或行政工具时仍然需要系统地进行，使用医疗系统的本地患者数据进行测试。克利夫兰诊所的治理结构还关注工具中使用的数据、这些信息如何受到保护以及产品是否安全并积极影响患者护理的问题。行政或运营产品，如环境记录员或收入周期管理工具，是一个更安全的起点。“你不会承担做出临床决策的风险，对吧？这种信任水平尚未建立。我认为这需要时间。”他说道。
准备AI部署
尽管AI有望减轻提供者的倦怠，但医疗系统在让提供者参与、设置试点、建立治理政策和推出产品方面面临挑战。在HLTH分享的一个例子中，圣路易斯的BJC决定使用供应商数据来识别需要很长时间签署文件或撰写长笔记的临床医生，以便进行环境笔记记录试点，BJC医疗保健门诊部的副首席临床信息官兼BJC医疗集团的首席医疗信息官米歇尔·托马斯（Michele Thomas）表示。“我想我们20个人中只有一个人回应。所以，我们立即意识到最需要它的人并不感兴趣。”她在小组讨论中说道。他们决定改变方向，邀请任何感兴趣的人加入试点，从而迅速得到响应，托马斯说。
然而，重要的是要考虑哪些提供者应参与测试，因为一些医生不了解参与试点的要求，例如需要花时间提供反馈或管理对新产品的不满。医疗系统在采用AI工具时还应考虑他们希望达到的结果。许多医生并没有看到太多的时间节省，因为他们花了大量时间编辑笔记，而不是纠正笔记，以使笔记符合自己的写作风格，托马斯说。相比之下，高级实践提供者在审查后更快地签署了环境笔记。“你真的需要决定你的投资回报率是什么。你是在寻找财务节省？还是时间节省？还是寻找能够证明这项技术合理性的硬数字？还是更软的方面？你是在寻找患者满意度吗？”她说。
网络安全已经是医疗保健行业的普遍挑战，也是AI部署的关键。组织应思考他们会对使用受保护健康信息的任何系统提出同样的问题，HHS民权办公室主任梅兰妮·丰特斯·雷纳（Melanie Fontes Rainer）在接受采访时说。如果他们与开发者建立关系，是否有业务关联协议？他们是否考虑了存储在云中的数据删除政策？他们是否考虑了谁需要访问数据？“我认为这里肯定需要平衡，但这要求我们所有人都负责，思考我们如何使用这些信息，以及这些信息可能会如何损害我们的系统、患者，以及我们如何采取主动措施来保护它们。”她说道。
(全文结束)
