在拉斯维加斯举行的HLTH 2024会议上，来自美国最大科技公司的高管们承诺领导医疗保健人工智能的下一轮创新。谷歌、微软、亚马逊、GE医疗和英伟达等公司提供的AI产品，承诺帮助系统解决从减少文档时间到优化手术室调度等一系列问题。科技公司表示，他们已经超越了早期单一解决方案的AI工具，转向提供可定制的平台解决方案，以满足个别医疗系统的特定需求。
“我们正处于一个转折点，”微软全球健康与生命科学负责人萨莉·弗兰克（Sally Frank）说。
然而，尽管科技公司希望将其产品销售给医疗系统和提供商，但高管们在如何负责任地向行业提供新技术以及临床医生是否同样准备好接受这些新工具的问题上存在分歧。
“我们在基础模型层面所做的任何评估都只是一个初稿，”谷歌研究高级总监兼Google Brain团队联合创始人格雷格·科拉多（Greg Corrado）说，“这需要由愿意并且能够进行实地研究的医疗系统来开创，而并非每个医疗系统都能做到这一点。”
科技公司强调平台方法
科技公司定位自己为医疗组织在AI开发中的合作伙伴，提供在产品开发和测试方面的深厚专业知识。然而，HLTH会议上的科技高管们表示，他们很少告诉医疗系统如何应用AI。
“谷歌不是一家医疗服务提供商，我们也不想成为一家医疗服务提供商，”科拉多说。他表示，AI的应用案例应直接来自医疗系统。科技公司就像半导体芯片制造商一样，它们制造了一种资源密集型、有价值的原材料——在这种情况下是一个大型语言模型——而医疗行业则应用它。
“我们开发的技术应该使医疗组织能够在这一领域构想并构建自己的未来，”他说。
谷歌已与克利夫兰诊所和社区健康系统等医疗机构合作，试点从医疗云服务平台到电子健康记录搜索工具等各种技术。其他科技公司如微软也推出了类似的合作伙伴关系，鼓励医疗系统定制自己的AI解决方案。
“这种承诺打破了‘现成’工具解决‘简单用例’的局面，”微软健康与生命科学产品营销副总裁基斯·赫特霍夫（Kees Hertogh）说。本月早些时候，微软表示将使医疗系统更容易直接构建自己的AI工具。该公司还利用生成式AI帮助医疗系统组织其非结构化数据，以及影像和医学影像数据，使客户能够“构建自己的副驾，自己的AI代理，”赫特霍夫说。
德勤首席顾问比尔·费拉（Bill Fera）在接受采访时说：“我认为超大规模企业和平台玩家将接管这个空间，因为人们越来越熟悉自行构建和了解如何做到这一点。应用将逐渐让位于自建平台。”
需要严格的测试引发对访问的质疑
在医疗保健领域，科技公司目前的兴趣在于帮助医疗系统管理信息过载。这些公司处理大量书面和图像数据的能力可以帮助缩短医生审查笔记或安排患者进行关键手术所需的时间。但不同的AI应用程序需要不同程度的人类监督。
目前，HLTH会议上的科技公司一致认为所有医疗AI都应该有人类监督。一些公司首先关注行政AI工具，因为这些工具需要较少的监督。例如，在GE医疗，一个调度工具可能需要较少的监督，而用于辅助癌症治疗的工具则需要更多的监督。
“这些是我们认为可以快速引入AI的地方，因为它不直接涉及临床决策支持，”GE医疗数字产品总经理兼全球高级副总裁阿布·米尔扎（Abu Mirza）说。“这不直接涉及对手术等做出决定。这是AI可以真正起步的地方。”
然而，当AI接近临床决策点时，必须进行更加严格的测试，科拉多说。AI“幻觉”问题——即模型产生无法通过源文本验证的答案——已经引起了广泛关注。但科拉多认为，同等重要的问题应该是遗漏——即AI未能在其答案中引用相关的信息。在某些方面，遗漏更难测试，因为它们需要全面审查通常较长的医疗记录。然而，并非每个医疗系统都有资源或知识来严格测试尖端技术，微软和谷歌的高管表示。
微软已连接寻求使用AI的医疗系统，以便更先进的系统可以在部署前为较小的系统提供资源和知识，赫特霍夫说。该联盟拥有超过15家医院和医疗系统，包括普罗维登斯、倡导健康、波士顿儿童医院、克利夫兰诊所、仁慈医疗和西奈山医疗系统。微软为其AI产品的用户提供自愿测试指南。
“我们为他们提供指导和技术，以便您能够创建系统的可见性和透明度……这种关系有点像，‘这是我们如何构建的方法，这是我们如何看待负责任AI的方法，’”赫特霍夫说。微软还从信息交流中受益。虽然微软提供了如何实施AI的观点，但这种交流是双向的。与全国最佳医疗系统的领导者互动有助于增强对微软产品的信任并建立信誉，他说。
这种广泛的协作精神是相对较新的，赫特霍夫认为，它可以帮助较小的提供商获得新技术，并作为整个医疗系统生成式AI更广泛采用的“加速器”。
然而，谷歌不仅建议医疗系统测试其AI——实际上几乎是强制性的。科拉多表示，临床反馈是谷歌测试过程的核心，因此到目前为止，公司只与具有某些“成熟度”的AI和共享模型测试价值观的医疗系统合作。
“我认为想要购买现成解决方案的医疗系统应该等待。他们应该等待技术成熟，等待情况稳定，”研究人员说。“我认为没有任何评估框架足够成熟，可以在任何医疗背景下直接部署技术。……没有什么是那么铁板钉钉的。您必须将其放在环境中，评估它在实际使用中的表现，并在那里进行调整。”
(全文结束)
