根据英国天空新闻台的一项调查，医生正在使用不符合最低标准的人工智能（AI）软件来记录和转录患者会谈。
英国国家医疗服务体系（NHS） 的高层已要求全科医生（GPs）和医院停止使用可能违反数据保护规则并危及患者安全的 人工智能（AI） 软件。本月早些时候，NHS英格兰发出警告，而就在几周前，该机构还向医生推广了利用AI进行笔记记录的好处——以便他们有更多时间专注于患者——使用了一种名为“环境语音技术”（Ambient Voice Technology，简称AVT）的软件。
卫生大臣 韦斯·斯特里廷（Wes Streeting） 将在下周推出一项以AI为核心的改革计划，旨在挽救未来十年内英格兰的医疗服务体系。然而，围绕记录、转录和总结患者对话的AI软件的争议正日益加剧。
今年4月，NHS英格兰致信医生，宣传AVT的优势，并设定了最低国家标准。然而，英国天空新闻台看到的一封信中，NHS高层警告医生，使用不符合最低标准的未经批准的软件可能会对患者造成伤害。
这封由NHS英格兰全国首席临床信息官于6月9日发出的信件写道：“我们目前了解到一些AVT解决方案，尽管其不合规……但仍被广泛用于临床实践。多家AVT供应商正在接触NHS组织……其中许多供应商尚未遵守基本的NHS治理标准。采用不合规的解决方案可能危及临床安全，导致数据保护违规、财务风险以及更广泛的NHS数字化战略的碎片化。”
英国天空新闻台此前曾 揭露AI‘幻觉’的危险性，即AI生成虚构答案后谎称其为真，这种情况在医疗环境中可能带来严重威胁。
NHS英格兰设定了最低标准，但并未告知NHS信托机构和医疗服务提供者应使用哪些软件供应商。英国天空新闻台现可披露，NHS英格兰及相关机构正面临越来越大的压力，要求它们采取更积极的行动。
英国医学协会全科医生委员会副主席 大卫·里格利（David Wrigley） 博士表示：“毫无疑问，作为一名全科医生，我和我的35,000名同事在此事上负有责任，但在这样一个快速发展的市场中，我们并不具备相关技术知识来深入研究这些问题。我们需要有能力检查产品是否安全、是否可靠、是否适合在诊室使用的支持与帮助，而这正是NHS英格兰应该提供的。”
里格利博士继续说道：“我们绝对支持技术发展，并希望将其应用于帮助NHS患者和我们的同事。但这必须以安全可靠的方式进行，否则就会陷入混乱——数据可能丢失或泄露，这是不可接受的。因此，我们并非反对进步，而是非常支持AI，但前提是它必须安全可靠。”
对于数十家鲜为人知但雄心勃勃的AI公司游说医院和诊所安装其监听产品的现象，一些医疗专业人士感到担忧。在这场技术竞赛中，利润巨大，但问题是数百个不同的NHS组织是否真的能够筛选出不合格的产品。
NHS联合会首席执行官 马修·泰勒（Matthew Taylor） 表示，这封信是一个“非常重要的时刻”。他认为NHS尝试新技术是正确的，但也需要更明确地知道哪些技术可以安全使用。泰勒补充道：“我个人认为，政府应在信托机构做出采购决策时提供建议，并像对待其他医学技术一样，指出哪些AI系统是安全的。我们需要政府提供更多指导，帮助NHS找到最佳使用方式。”
当被问及短期内这是否意味着情况可能相当危险时，泰勒回应道：“从环境语音技术中可以看出，那种‘百花齐放’的做法是有局限性的。”
今年早些时候，卫生大臣似乎暗示未经批准的技术正在被使用，但他对此表示欢迎，认为这是医生渴望变革的标志。斯特里廷先生表示：“我偶然听说，确实是在酒吧里听到，一些临床医生已经走在前面，已经开始使用环境AI记录笔记等内容，即使他们的诊所或信托机构尚未跟上步伐。虽然这里有很多问题——我不鼓励这种行为——但这确实表明，与人们普遍认为的‘大家不想改变，员工抗拒变革’相反，事实恰恰相反。人们迫切希望这种技术得到应用。”
符合国家标准的医生们表示，使用AI已经带来了显著的好处。位于卫生大臣选区伊尔福德（Ilford）的医生 阿尼尔·梅塔（Anil Mehta） 告诉英国天空新闻台，他支持其议员推动在医疗保健领域引入更多AI技术。
梅塔博士展示了他使用的环境语音技术版本。这款名为Accurx Scribe的软件完全符合当前NHS英格兰对AVT的所有要求，没有任何迹象表明该产品违反任何规则、标准或指南。事实上，开发该软件的公司每周都会与NHS英格兰会面，共同制定标准化方法，以将这些优势扩展到整个NHS。
梅塔博士表示：“我每周有30%的时间花在文书工作上。所以，当我解释清楚我们在做什么之后，患者感到非常放心。我没有遇到过任何人反对我这样做。”
他补充道：“我认为与医生的咨询极其保密，这一点完全没有改变。无论是弱势成年人、弱势儿童、青少年还是由父母陪同的小孩，这种保密性依然存在。”
NHS发言人表示：“环境语音技术有潜力彻底改变护理方式并提高效率。今年4月，NHS发布了支持其安全使用的指导意见。我们正在与NHS组织和供应商合作，确保整个卫生服务系统中使用的所有环境语音技术产品都符合NHS的临床安全和数据安全标准。”
(全文结束)