加利福尼亚州奥克兰凯撒医疗集团的心理治疗师保罗·博耶（Paul Boyer）正亲身经历AI革命。不过，他的感受并不太好。
这家医疗巨头推出了一套由医疗AI先驱公司Abridge开发的记笔记软件，旨在以超快速度总结患者就诊情况。对许多临床医生来说，这项技术缓解了他们生活中的一个长期困扰——行政事务和文书工作。
但AI记录员给博耶和他的同事们带来了另一个困扰：它"不太有用"。他们最终不得不修正计算机生成的笔记。
博耶表示，Abridge"不善于捕捉临床细微差别和情感语调"，而这些在心理健康领域可能至关重要。例如，对于躁狂症患者，说什么不如怎么说重要，而该软件在捕捉这些线索方面存在困难。
记笔记软件并非未来趋势，而是当下现实。全美各地的医院都在实施这类技术。研究人员也发现了一些好处。据《美国医学会杂志》4月份发表的一项对五家医院的研究显示，安装一年后，最常使用这些产品的医生每天能节省超过半小时的工作时间。
许多医生喜爱已部署的产品——多项基于访谈的研究发现，医生们对这些记录员总体反应积极。
然而，正如博耶的例子所示，人们对这些系统的质量仍存在持续质疑。当博耶和他的同事们花费时间修正笔记时，安全研究人员担心临床医生可能不会认真检查错误。这意味着未来的医生可能会依赖错误信息。
Abridge表示，它在部署的每个阶段都对其记录员进行评估，包括与软件先前版本进行的直接对比测试。
该公司应用科学总监戴维斯·梁（Davis Liang）在一份声明中对KFF健康新闻表示："模型部署后，我们监测临床医生的编辑、星级评分以及临床用户关于笔记质量的自由文本反馈。"
人工智能记录软件是即将进入医疗保健领域的一系列AI工具的一部分。临床医生和患者安全倡导者表示，政府法规并未很好地构建，无法防范新技术可能遗漏或掩盖患者病情重要细节、从而可能伤害患者的威胁。
位于马里兰州哥伦比亚市的大型医院系统MedStar Health专门研究人机交互（即人们如何与技术互动）的研究员拉杰·拉特瓦尼（Raj Ratwani）表示："目前联邦层面没有保障措施来审查记录软件。"
拉特瓦尼担心，医疗软件的保障措施将进一步放松。他表示，国家卫生信息技术协调员办公室（负责监管电子健康记录的机构，电子健康记录是患者护理的核心记录）提出的规则可能会削弱使医疗记录易于理解、易于使用以及关于AI使用透明度的要求。而难以理解的记录可能会使临床医生困惑并导致错误。
从奥巴马政府时期开始，卫生与公众服务部（HHS）的IT办公室鼓励进行"以用户为中心的设计"测试，开发者将产品在医生和护士身上进行尝试。监管机构还试图要求在蓬勃发展的AI工具市场中，企业提高透明度。
然而，卫生与公众服务部长小罗伯特·F·肯尼迪的健康IT办公室提出的规则草案中删除了这两项要求。
医生和其他医疗从业者查阅记录以获取临床信息，例如总结患者护理历史的记录员笔记以及患者使用过的药物和疗法列表。医生还输入护理订单。
拉特瓦尼表示，记录系统设计不良或杂乱无章"可能会使药物列表变得如此复杂和混乱，以至于开处方的医生选择了错误的药物。"
Abridge的总法律顾问蒂姆·黄（Tim Hwang）表示，该公司"广泛支持"政府的规则，认为这是"必要的现代化"，"适应了AI快速发展的速度。"
为数字健康公司提供咨询的Leavitt Partners公司负责人瑞安·豪厄尔斯（Ryan Howells）表示，旧规则给电子健康记录系统"带来了过多负担"。Leavitt支持这些提议。
政府辩称，取消要求将带来更多的创新和竞争。电子健康记录市场已稳步整合，医院和其他临床医生可选择的供应商越来越少。
2022年的一项研究发现，排名前两位的供应商Epic和Oracle Health占据了医院市场70%以上的份额。豪厄尔斯认为，过多的规则给寻找良好记录系统的提供商带来了负担。他说，联邦法规是"真正临床创新的最大障碍。"
一些批评人士表示，特朗普政府提议取消管理记录的要求过于宽泛。它取消了旨在保护记录安全的法规，还消除了对敏感医疗数据的隐私保护，改革了管理数据发送格式的标准等。政府在其提案中写道，该规则可能为临床医生提供"更多健康IT选择，通过增加竞争来满足他们的需求。"
卫生与公众服务部健康IT办公室拒绝置评，指出该提案仍在监管流程中。公众意见已于2月结束。
但对于一些人来说——甚至在医院和开发部门——最令人担忧的是提议取消确保新产品在实际用户上进行测试的先决条件，以及确保AI技术的决策对医生和护士透明。
美国医院协会的詹妮弗·霍洛曼（Jennifer Holloman）表示："历史上，医院和卫生系统一直面临某些AI工具的'黑箱'性质以及算法开发方式的挑战。"随着更多AI工具涌入市场，该协会表示，透明度更为关键。
关于电子健康记录安全性的投诉由来已久，即使是看似简单的任务。拉特瓦尼喜欢举这样一个例子：为特定疾病开药。
"医生试图开泰诺（Tylenol），而药物列表可能如此混乱，以至于有30种不同版本的泰诺，剂量和用途各不相同，而实际上可以设计得更简单，让医生更容易选择他们要开的正确类型的泰诺，"他说。
现实世界用户测试旨在简化医生的记录设计。但Altera Digital Health（一家电子健康记录开发商）的政策与公共事务副总裁莉·伯切尔（Leigh Burchell）表示，政府以令人困惑的方式结束了这一要求。
伯切尔对规则的解读是，规则提到的"执法自由裁量权"原则（即政府可以选择不执行某些规则）意味着公司仍需进行测试——这部分工作量很大——但没有强制要求向联邦政府报告结果。
政府还结束了拜登时代创建AI透明度"模型卡"的想法。其概念是，临床医生可以通过简单的鼠标点击，查看用于训练为其提供建议的AI工具的数据。但特朗普政府的监管机构表示，很少有人利用这一推出一年的工具。
尽管如此，医院和医生对取消该工具持谨慎态度。美国医院协会在致卫生与公众服务部IT办公室的评论信中写道，该工具"提供了预测性或生成性AI应用程序如何设计、开发、测试、评估以及应如何使用的信息。这些数据对于培养对AI工具的信任和确保患者安全至关重要。"美国内科医师学会也发出了类似警告，称"缺乏清晰度可能会削弱临床医生的信任，增加责任费用，并破坏医患关系。"
即使是开发人员对该想法也不完全确定。伯切尔表示，她所属的电子健康记录贸易集团对此问题"有很多不同的观点"。"通常，我们在回应上会更一致一些。"
不过，伯切尔的团队认为，公司应该对AI做决策所依赖的数据以及它如何提出建议保持透明。
关于AI工具有效性的证据稀少或相互矛盾。
最近一项研究比较了11种AI记录员，考虑将其作为退伍军人健康管理局的试点，发现该软件在五个模拟场景中的表现均不如人类。作者指出："尽管环境AI记录员可以生成完整的笔记，但整体质量仍远低于人类撰写的文档"，信息遗漏尤其令人担忧，因为这可能会影响后续护理。
由于作者称为"合同原因"，退伍军人事务部研究中的供应商未被披露。
而这只是一种AI工具。大量此类工具即将推出，每种都需要单独评估，更不用说已经安装的工具了。
博耶表示，目前他基本上可以忽略他的AI记录员。但他担心管理层会根据预期的时间节省来设计他的工作，并安排更多患者——这意味着他需要花更多时间与患者相处并修正软件的错误。
凯撒医疗集团发言人文森特·斯托普（Vincent Staupe）表示，公司不要求其临床医生使用AI。
博耶说："当我修正那个笔记时，我觉得这工作太多了。这肯定让情况变得更糟，而这占用了我不应该花在修正AI工具上的时间。"
KFF健康新闻是一个全国性新闻编辑室，专注于健康问题的深度报道，是KFF的核心运营项目之一——KFF是健康政策研究、民意调查和新闻报道的独立来源。
【全文结束】
