临床语音转文字AI真的可靠吗?
人工智能在临床环境中的应用正日益普遍。如果你还没在自己的就诊过程中体验过,那你很可能在电视上见过。
就在今年早些时候,AI语音转文字技术在医疗剧《匹兹堡》(The Pitt)中一度成为焦点。
剧中角色、医生巴兰·阿尔-哈希米(Baran Al-Hashimi)向同行展示一款新的AI语音转文字工具时说:“研究显示,你在书写病历上花费的时间可以减少80%。”但一位持怀疑态度的同事在工具听错了一位患者所服药物的名称后提出了担忧。
虽然剧中情节是虚构的,但它提出了一个真实的问题:这些AI工具的风险是否大于收益?
辛辛那提大学副教授内莉·埃尔赛义德(Nelly Elsayed)不仅想回答这个问题,还想找到具体方案,推动医疗文书领域安全、可靠的AI系统发展。
她的论文《临床语音转文字系统的社会技术风险:AI驱动文书中的透明度、隐私与可靠性挑战》刚刚发表在《国际医学信息学杂志》上。该研究考察了大量现有研究、伦理准则和政府法规,以揭示AI的应用正如何超前于对其的监管。
“这些AI工具的质量在不断提高,但要让它们更高效、更透明,还有其他方面需要我们关注。”埃尔赛义德说。
埃尔赛义德在辛辛那提大学信息技术学院(隶属于教育与刑事司法及人类服务学院)专门教授AI相关课程。她还是该学院应用机器学习与智能实验室的创始人,自2022年起一直领导该实验室。
“我的关注点是如何改善生活质量和社会因素,让AI向善,让AI能够用于提升我们的生活质量。”埃尔赛义德说。
临床语音转文字的五大关键风险
- 披露与知情同意的做法不一致
- 对口音和言语障碍者的性能下降
- 医疗机构中的杂音会降低AI的准确率
- 缺少对AI生成文本的人工复核,导致错误未被发现
- 错误的责任归属不清:是软件还是临床医生的责任?
评估风险
在梳理数据的过程中,埃尔赛义德发现了当今临床语音转文字工具的五大关键风险。这些风险既涉及AI本身的问题,也涉及医疗服务提供方如何处理软件产生的数据。
埃尔赛义德表示,只要在数据最终定稿前安排人工复核,就能减少相当一部分此类担忧。
“我们需要有人在环路中,检查文本是否与所说的内容完全一致,”埃尔赛义德解释说,“而且这种检查需要针对全文进行,而不仅仅是前几句话。”
埃尔赛义德还发现,现实环境中有众多因素会干扰AI正确记录的能力。AI通常在“理想”环境中训练,没有真实诊室里的嘈杂——比如机器滴滴作响、医生交谈。如果不在特定场景、不同口音和言语障碍的情况下训练大语言模型,它们在现实生活中就无法可靠。
另一种减少错误的方法是在临床医生采用软件之前对其进行培训。
“开发系统的机构需要为医生提供指南,说明他们可以用什么、不能用什么,以及需要注意什么。”她说。
现实生活,现实应用
埃尔赛义德之所以想探究AI的隐患,是因为她自己去看医生时,医生使用语音转文字记录了她的就诊过程。
“这篇论文对我意义重大,因为它实际上源于我的个人经历。”她说。
她的医生告知她,他们的对话将被录制以生成文字记录。这立刻让埃尔赛义德产生疑问。
“它会准确记录我说的话吗?还是家人的声音或护士在门外的交谈等噪声会干扰它?”
除此之外,她还考虑了自己的数据保密问题。“我完全没有被告知这些信息是什么、背后的安全保障是什么、它将存储在哪里,或者谁能访问它。”
虽然这项研究是概念性的,但她希望这些发现能直接改善患者隐私和语音转文字系统的整体有效性,使收益远远大于她所详述的任何风险。
“作为一个系统,它对医生来说很棒,因为它确实能消除倦怠、减少坐在电脑前打字的时间。他们能有更多面对面时间与患者交流,也能更好地倾听,”埃尔赛义德说,“但我们需要有人检查这些文本是否与患者所说的一致。”
阅读完整研究。
下一个突破性发现
作为卡内基一级研究型大学,辛辛那提大学是发现与影响力的重镇。从开创性医学研究到变革性工程和社会创新,我们的教师和学生推动着影响遍及全球的进步。
了解更多辛辛那提大学的研究。
题图:一位医生在笔记本电脑上做记录。图片/Adobe Stock
【全文结束】

