加州奥克兰凯撒医疗集团的心理治疗师保罗·博耶正在亲身体验AI革命，但他对此有些失望。这家医疗巨头推出了一套由医疗AI先驱Abridge公司开发的笔记软件，旨在以超快速度总结患者就诊情况。对许多临床医生来说，这项技术缓解了他们生活中长期存在的一个痛点——行政管理和文书工作。
然而，这款AI听写员给博耶及其同事带来了另一个难题：它"不是特别有用"。他们最终不得不修正计算机生成的笔记。博耶表示，Abridge"不善于捕捉临床细微差别，也不善于捕捉情绪语调"，而这在心理健康领域至关重要。例如，对于躁狂症患者，说话的方式比内容更重要，而该软件在捕捉这些提示方面存在困难。
笔记软件不再是未来的浪潮，而是当下的现实。全美医院都在实施这类软件。研究人员发现了一些益处。《美国医学会杂志》4月发表的一项针对五家医院的研究显示，安装一年后，最常使用这些产品的医生每天可节省半小时以上的工作时间。
许多医生喜欢已部署的产品——多项基于访谈的研究发现，医生对这类听写员总体反应积极。然而，正如博耶的例子所示，人们对这些系统的质量仍存在持续质疑。当博耶和他的同事们花时间修正笔记时，安全研究人员担心临床医生可能不会认真检查错误，这可能导致未来的医生依赖错误信息。
Abridge表示，它在部署的每个阶段都会评估其听写员，包括与软件先前版本进行的直接对比测试。该公司应用科学总监戴维斯·梁在给KFF健康新闻的声明中表示："在模型部署后，我们监控临床医生的编辑、星级评分以及临床用户对笔记质量的自由文本反馈。"
人工智能听写软件是涌入医疗领域的众多AI工具的一部分。临床医生和患者安全倡导者表示，政府法规并未很好地构建起来，无法防范新技术可能遗漏或模糊患者状况重要细节的威胁，从而可能对患者造成伤害。
位于马里兰州哥伦比亚市的大型医院系统MedStar Health专门研究人因工程（即人与技术互动方式）的研究员拉杰·拉特瓦尼表示："目前在联邦层面没有'把关'措施来审查听写软件。"拉特瓦尼担心，医疗软件的保障措施将进一步放松。他说，负责监管电子健康记录（患者护理的中央记录）的国家卫生信息技术协调员办公室提出的规则可能会削弱使医疗记录易于理解、易于使用以及对AI使用透明的要求。而难以理解的记录可能会使临床医生困惑并导致错误。
从奥巴马政府开始，卫生与公众服务部的IT办公室鼓励"以用户为中心的设计"测试，开发人员在医生和护士身上测试其产品。监管机构还试图要求在蓬勃发展的AI工具市场中提高公司的透明度。
HHS部长小罗伯特·F·肯尼迪的健康IT办公室在拟议规则中取消了这两项要求。
医生和其他医疗从业者查阅记录以获取临床信息，例如总结患者护理历史的听写笔记以及患者使用过的药物和疗法列表。医生还输入护理订单。
拉特瓦尼表示，记录系统设计不良或杂乱"可能使药物列表变得如此复杂和混乱，以至于开处方的医生选择了错误的药物"。
Abridge的总法律顾问蒂姆·黄表示，公司"广泛支持"政府的规则，认为这是"必要的现代化"，能够"适应AI快速发展的速度"。为数字健康公司提供咨询的Leavitt Partners公司的负责人瑞安·豪厄尔斯表示，旧规则"给电子健康记录系统带来了过多负担"。Leavitt支持这些提案。
政府认为，取消要求将带来更多的创新和竞争。电子健康记录市场已经稳步整合，医院和其他临床医生的选择供应商越来越少。2022年的一项研究发现，前两大供应商Epic和Oracle Health占据了医院市场70%以上的份额。豪厄尔斯认为，过多的规则给寻找良好记录系统的提供商带来了负担。他说，联邦法规是"阻碍真正临床创新的最大障碍"。
一些批评者表示，特朗普政府提出取消记录管理要求的提案过于宽泛。它取消了旨在保护记录安全的法规，还取消了保护敏感医疗数据的隐私保护，改革了数据传输格式的标准等。政府在其提案中写道，该规则可能通过增加竞争，使临床医生"有更多健康IT选择来满足他们的需求"。
HHS健康IT办公室拒绝发表评论，指出该提案仍在监管流程中。公众意见已于2月结束。
但对一些人——甚至在医院和开发人员领域——最令人担忧的是，提案取消了确保新产品在实际用户上进行测试的先决条件，以及确保AI技术决策对医生和护士透明的要求。
美国医院协会的詹妮弗·霍洛曼表示："历史上，医院和医疗系统一直面临某些AI工具的'黑箱'性质以及算法开发方式的挑战。"随着更多AI工具涌入市场，该协会表示，透明度变得更加关键。
关于电子健康记录安全性的投诉由来已久，即使是看似简单的任务也是如此。拉特瓦尼喜欢举这样一个例子：为特定疾病开具药物。
他表示："医生试图开泰诺，而药物列表可能如此混乱，以至于有30种不同剂量和用途的泰诺，而实际上可以设计得更简单，让医生更容易选择他们要开的正确类型的泰诺。"
现实世界用户测试旨在简化医生的记录设计。但Altera Digital Health（一家EHR开发商）政策与公共事务副总裁莉·伯切尔表示，政府以一种令人困惑的方式结束了这一要求。
在伯切尔对规则的解读中，规则提到了"执法自由裁量权"，即政府可以选择不执行某些规则的原则，公司仍需进行测试——这是需要工作的部分——但没有义务向联邦政府报告结果。
政府还在取消拜登时代的创建AI透明度"模型卡片"的想法。其概念是，临床医生可以通过简单的鼠标点击来探索用于训练为临床医生提供建议的AI工具的数据。但特朗普的监管机构表示，很少有人利用这个一年前推出的工具。
尽管如此，医院和医生仍对取消该工具持谨慎态度。美国医院协会在给HHS IT办公室的评论信中写道，该工具"提供了有关预测性或生成性AI应用程序如何设计、开发、测试、评估以及应如何使用的信息。这些数据对于培养对AI工具的信任和确保患者安全至关重要。"美国内科医师学会提出了类似的警告，称"缺乏清晰度可能会削弱临床医生的信任，增加责任费用，并损害医患关系。"
即使是开发人员也不完全确定这一想法。伯切尔表示，她所在的电子健康记录贸易组织对这一问题"有很多不同的观点"。"通常，我们在回应上会更加一致。"
尽管如此，伯切尔的组织认为，公司应该对AI做决策所依赖的数据以及如何得出建议保持透明。
AI工具有效性的证据稀少或相互矛盾。一项最近的研究比较了11种AI听写员，考虑将其作为退伍军人健康管理局试点使用，发现在五个模拟场景中，软件表现不如人类。作者指出："尽管环境AI听写员可以生成完整的笔记，但整体质量仍远低于人工编写的文档"，信息的遗漏尤其令人担忧，因为这可能会影响后续护理。
退伍军人事务部研究中的供应商未被确认，作者称之为"合同原因"。
而这只是一种类型的AI工具。大量此类工具即将涌现，每种都需要自己的评估，更不用说已经安装的工具了。
博耶表示，目前他基本上可以忽略他的AI听写员。但他担心管理层会根据预期的时间节省来设计他的工作，并安排更多患者——这意味着他需要花更多时间与患者相处并修正软件的错误。
凯撒医疗集团发言人文森特·斯托普表示，公司不要求其临床医生使用AI。
博耶说："当我修正那个笔记时，我觉得这工作太多了。这肯定会变得更糟，而且占用了我本不该花在修正AI工具上的时间。"
【全文结束】
