医疗保健专业人士在日常工作中正越来越多地转向人工智能（AI），特别是用于耗时的任务，例如记录医疗笔记。对此，杜克大学的研究人员正在开发工具，用以评估这些AI工具在医院环境中的表现。
为什么这很重要： Axios此前曾报道，全美各地的医疗系统正在大力投资人工智能，以此作为减轻医护人员职业倦怠感并可能改善护理质量的一种方式。然而，人们仍然担心这些工具并不完美，有时会产生所谓的“幻觉”错误，从而可能对患者造成负面影响。
总体情况： 在医疗保健领域使用人工智能的吸引力显而易见，一项研究发现，AI将记录笔记的时间减少了20%，并将下班后的工作量减少了30%。根据美国医学会（American Medical Association）的一项调查，近三分之二的医生现在在日常工作中使用某种形式的人工智能。然而，杜克健康（Duke Health）的首席数据科学家迈克尔·彭奇纳（Michael Pencina）告诉Axios，如果AI笔记中出现错误，例如抄写时标明了错误的药物，可能会对患者产生“下游后果”。
最新动态： 本月，杜克大学的研究人员在两项研究中公布了他们开发的一种新框架，用以评估AI模型并监测其长期性能。这种内部工具结合了人工评估、自动指标评分和模拟边缘案例场景。其中一项研究考察了AI在记录医疗笔记方面的表现；另一项则研究了在电子健康记录软件Epic中生成回复患者信息的情况。据共同作者彭奇纳和杜克大学生物统计学教授洪传（Chuan Hong）表示，目标是确保这些工具准确、信息传达流畅且避免偏见。
深入分析： 针对医疗笔记记录工具的研究发现，AI通常能生成流畅且清晰的笔记，但偶尔会出现不准确的情况。例如，在处理新药和药物时，其性能显著下降。
在针对Epic中草拟回复的研究中，研究人员发现AI生成的回复大多可接受，医护人员只需做少量修改。但他们面临的一个挑战是，AI有时会遗漏关键信息，需要医护人员进行重大编辑。
专家观点： 彭奇纳告诉Axios，医疗系统需要一种方法来跟上AI工具快速变化和发展的步伐。“我们确实需要建立一个良好的上市后监控系统，在这些解决方案部署到现实世界时进行持续监控，”他表示，“技术发展迅速，我们进行这项研究的部分原因是为了找出可以持续运行的有效指标，以捕捉可能出现的任何问题。”
未来展望： 彭奇纳表示，目标是首先在杜克健康（Duke Health）内部推出其AI监控框架，一旦对其性能满意，便可与其他医疗系统共享。
(全文结束)
