今天，《夏洛特公报》和北卡罗来纳州健康新闻联合推出了一项三部分系列报道，探讨人工智能如何改变北卡罗来纳州的医疗服务。首篇报道关注的是越来越多的医生使用“虚拟书记员”工具记录患者访问，这引发了隐私方面的担忧。
Atrium Health儿科医生乔斯琳·威尔逊（Jocelyn Wilson）在夏洛特儿科诊所（Levine Children’s Charlotte Pediatrics）使用一款名为DAX Copilot的人工智能工具，通过智能手机录制患者的就诊对话并生成临床总结。她表示，这项技术使她可以更专注地与患者互动，而不再需要手动记录笔记。
“我过去不太喜欢在诊室里用电脑，感觉不那么投入。”威尔逊说，“现在我不需要再记任何东西了，我可以进行直接的眼神交流。”
威尔逊表示，DAX Copilot每天能为她节省超过一个小时的时间，用于输入患者的预约详情。虽然医疗机构在后台使用人工智能重塑护理方式，但这些“虚拟书记员”工具是最直观地将AI引入诊室的应用之一。
超过1500名Atrium Health的医生获得了使用DAX Copilot的许可，其他几家北卡罗来纳州的医疗系统——包括Novant Health、UNC Health和杜克大学健康系统——也在使用类似的技术。这些平台类似于许多行业（从金融到营销）采用的AI工具，用于简化诸如笔记记录和信息总结等任务。
然而，AI助手并不完美，医疗提供者面临着与其他行业相同的挑战。研究表明，语音识别程序有时无法理解少数族裔、非母语使用者和有言语障碍的人。此外，这些工具可能会误解信息甚至编造响应，这种现象被称为“幻觉”，强调了医生审查摘要的重要性。
“确保有人类参与其中，以确保这些工具得到适当评估，并适用于所有类型的患者和医生是非常重要的。”康奈尔大学信息科学助理教授艾莉森·科恩凯（Allison Koenecke）说。她的研究揭示了AI生成医疗记录中存在的问题。
医疗机构还需要解决患者对隐私的担忧，并确保患者了解软件的工作原理，以便他们能够做出明智的决定是否参与。
患者可以期待什么？
Atrium是全国第一个测试DAX Copilot（即“Dragon Ambient eXperience Copilot”的缩写）的医疗系统。该软件在医生的智能手机上安装了一个安全应用程序来进行录音。
威尔逊测试了早期版本，她形容它“有点笨拙”。但她表示，最新版本非常准确，她已经连续几个月稳定使用。具体操作流程如下：在进入房间前，她会记录一段简短的患者信息和就诊原因；进入房间后，她会自我介绍并解释过程，例如：“我今天带了手机，因为它可以帮助我在一天结束时写笔记。如果您同意，它将在这里监听我们的对话。”
到目前为止，没有患者拒绝这一做法。威尔逊会将手机放在柜台上，直到离开诊室才停止录音。几分钟后，软件会发送一份就诊摘要到她的电脑上供她审核和编辑。
解决医生倦怠的良方？
理想情况下，威尔逊说，医生可以在每次预约之间更新笔记，当细节还记忆犹新时。但现实是，有时候一个预约比预期长，还有两三个患者等着看诊。“当你已经看了五六个患者还没有开始写笔记时，内部压力就开始积聚。你会担心忘记某些事情，对需要花费多长时间才能赶上感到焦虑。”
威尔逊表示，DAX Copilot大大减少了未完成笔记带来的压力。现在她有一个草稿等待编辑，而不是面对空白屏幕。“编辑笔记比重新开始写要容易得多。”她说。自从使用这项技术以来，她有更多时间午休、锻炼或晚上做饭，而不是“一直写笔记直到睡觉时间”。
当诊所忙碌时，DAX Copilot也使她能够在一天内安排更多的患者。
医生倦怠已经成为全国性的危机，约有一半的医生在2023年报告了相关症状，主要原因是文书工作负担加重。2020年梅奥诊所的一项研究发现，医生在办公室外花费一到两个小时撰写患者访问所需的笔记，这削减了个人和家庭时间。
《美国医学会网络开放期刊》（JAMA Network Open）发表的一项研究发现，使用DAX Copilot的Atrium Health医生中有47%报告在家处理文书工作的时间显著减少。
隐私和准确性问题
根据2024年的一项调查，约70%的患者对医生在就诊中使用AI感到放心。但也有保留意见，超过一半的人认为医疗AI“有点可怕”，70%的人担心数据隐私。在一个手机或电脑随时可能被黑客攻击的时代，一些患者担心录音最终会泄露。Atrium表示，DAX Copilot应用程序只能通过生物识别或密码验证访问，录音在医生批准相关AI生成的临床笔记后会自动删除。
就准确性而言，像威尔逊这样的医生必须仔细审查AI生成的内容以确保其正确性。科恩凯的研究发现，微软的一款语音转文字工具对黑人说话者的错误率是白人的两倍。在调查另一款非微软模型时，她发现该技术会遗漏事实或编造内容。例如，它曾虚构了一种不存在的药物“超激活抗生素”。
正如许多AI技术一样，虚拟书记员的成功很大程度上取决于其实施方式。它们是用来减轻医生的负担，还是医院为了增加收入而推动医生看更多患者？没有足够的监督，AI助手可能会导致巨大的下游危害，特别是对于那些说话方式未被这些工具充分捕捉的群体。科恩凯说：“我们如何确保这些已经过度劳累的工作者不会只是粗略浏览并点击‘确定’？”
(全文结束)
