波士顿——越来越多的医院和医疗系统正在寻求人工智能的帮助，以应对从自动化医疗操作到推进临床决策支持和精准医疗等广泛的用例和护理交付需求。
但在周四举行的HIMSS医疗保健AI论坛上，专家们表示，真正可持续的AI应用将需要边缘端的小型模型和自动化的治理来确保高质量的输出。
他们还警告说，数字鸿沟可能很快会根据系统规模和资源来分层医疗服务质量。
初步探索
斯坦福医疗系统的首席信息与数字官、斯坦福医学院副院长Michael Pfeffer博士表示，实时查询患者病历对斯坦福医疗的临床医生来说非常有益。
近年来，斯坦福已在电子健康记录工作流程中直接实现了对大型语言模型的访问。
Pfeffer在一个挤满听众的房间中谈到斯坦福的LLM时说："有一天晚上，我收到一位心脏病学研究员的电子邮件——最近心脏病学服务非常繁忙。他给我写这封邮件说，'ChatEHR'——这是我们对它的称呼——'改变了我的生活。'"
但Pfeffer和UMass Memorial Health的首席质量官兼首席临床信息官Eric Alper博士表示，他们认为将AI用于高级诊断支持是医疗保健的未来。
Alper说："我非常兴奋于AI将如何改善我们在医院内外、人群健康方面提供的护理质量，并确保患者获得他们所需的筛查——通过智能代理查看病历并闭环处理。我认为这将真正帮助我们接近我们提供的诊断护理的六西格玛水平。"
他们的炉边谈话作为论坛的开幕主题演讲，探讨了AI的全方位影响——从临床医生的采用到质量和安全的持续监测挑战。
"AI正处于转折点吗？"Alper问Pfeffer。
与区块链不同，"我认为我们已经到了一个大家都同意AI将长期存在的地步，"Pfeffer说。"但我们尚未达到的是，我们仍然没有完全走出AI的炒作周期。有如此多的机会，如此多的东西正向我们涌来。"
每天都有新的模型、功能或平台。"你怎么能跟上所有这些？"他说，关键在于"我们真正希望通过AI获得什么结果，以及如何衡量它们？我们还没有完全达到这一点。"
"我们在医疗保健的流程方面有很多需要修复的地方，我们只是很乐意用某种东西来对付这些，对吗？"Pfeffer说。
Alper表示同意。"这不再关乎'我们应该使用AI吗？'，而是关于'我们应该在哪里……我们究竟应该如何使用AI？'"他说。
位于伍斯特的UMass Memorial有很多需求。Alper将该医疗系统描述为"床位不足"，急诊室满负荷运转，尽管取得了成就，但可及性仍低于该组织的期望。
然而，他表示，该组织的AI采用已不再关乎抄写员。
"现在是要弄清楚，你的抄写员策略是什么？你的收件箱AI策略是什么？你的智能代理AI策略是什么？是自建还是购买？"Alper说。
AI是"不是是否，而是哪里和如何。"
Pfeffer补充说，尽管AI发展速度很快，但医疗保健仍处于早期阶段，他指出斯坦福正在开展转化研究，以研究生成式AI的效力。
"我们已经实施了人工智能的治理流程，"Alper说。"这涉及到前期评估风险。我们在UMass Memorial没有足够的资源来实时或上线后评估这些模型。"
他表示，他担心资源丰富的医疗系统（有能力构建、实验和监控AI）与较小的社区提供商、安全网医院和独立诊所（无法做到这一点）之间日益扩大的"数字鸿沟"。
"他们将如何能够访问这些将改变医疗保健的工具？"Alper说。"我们正在为社区中的'有者'和'无者'创造数字鸿沟。"
Pfeffer同意这是患者护理中的不公平划分。他说，救护车可以"向左转"前往拥有先进AI工具的资金充足的医院，但如果"向右转"前往缺乏这些工具的资源紧张的医疗机构，患者可能无法获得相同水平的护理。
"我们也依靠我们的电子健康记录供应商来帮助向我们提供其中一些工具，"Alper说。
现实世界中的审计与计算
临床医生不可能实际审核每一段AI生成的文本。Pfeffer解释说，他们可能最初会检查其准确性；然后，他们开始依赖它。
"你看到这个摘要一次——看起来很好，"他说。"你看到它两次——看起来很好，然后你就永远信任它。我们不能推出那些临床医生必须检查的AI。"
Pfeffer说，检查并不会节省时间，这使得人在环路（human-in-the-loop）的概念成为"一个问号"。
"我不知道你是否尝试过，但如果你从一个模型得到答案，而它看起来不太对，你通常可以问模型，'你确定吗？'"他补充道。
与其让人类双重检查每一个输出，AI的未来状态将依赖于次级AI代理自动监控和标记不准确性，然后将这些问题提交给人类。
Alper表示，他设想AI将为临床医生提供主动诊断，以帮助消除误诊和延迟诊断。但将AI视为一个投资组合，"有些事情不会产生经济回报，但对患者来说是正确的事情。"
随着AI迅速转向精准健康，从实用性角度看，使用基因组数据在症状恶化前主动筛查整个患者群体可能并不现实。
"实用性确实很有趣，"Pfeffer说。
"假设明天，如果我们能够识别出每一个需要结肠癌筛查的患者，我们将面临一个问题，因为我们没有足够的胃肠病学家来进行所有结肠镜检查，"他解释道。"所以你必须看看运行该模型的成本是多少，其实用性——你是否真的能够实现模型输出的内容，以及你正在衡量的结果是什么？"
"总体而言，它必须是积极的，因为如果是消极的，就不可持续，"Alper说。边缘计算能力"从成本角度看将有所帮助。"
医疗保健成本众所周知很高，虽然AI已被定位为通过自动化收入周期和其他行政任务来帮助降低成本，但正如一位与会者指出的，AI模型的成本也在增加。
"我们将不得不改变我们做这件事的方式，"Pfeffer说。"我认为编码是最终将消失的事情之一。我们将拥有自主编码……因此这不会成为你获得报酬方式的差异化因素。"
他表示，可能在边缘端的小型模型可能会节省成本。
"我们不会在这方面消耗代币和额外的环境成本，"Pfeffer说。"我认为我们必须从将所有内容都投入这些大型语言模型，转向更加深思熟虑、可定制、更小且在边缘端的用例，以使其更加可持续。"
【全文结束】