根据Sky News的一项调查，医生正在使用不符合最低标准的人工智能（AI）软件记录和转录患者会谈。
英国国家医疗服务体系（NHS） 高层已要求全科医生（GPs）和医院停止使用可能违反数据保护规则并危及患者安全的 人工智能 软件。
本月，NHS England 发出警告，就在几周前，该机构还向医生介绍了使用AI进行笔记记录的好处——这可以让医生有更多时间专注于患者——这种技术被称为“环境语音技术”（Ambient Voice Technology，简称AVT）。
卫生大臣 韦斯·斯特里廷（Wes Streeting） 将在下周发布一项改革计划，将AI置于拯救NHS的十年计划的核心位置。
然而，围绕记录、转录和总结患者对话的AI软件的争议正日益加剧。
今年4月，NHS England 致信医生，宣传AVT的优势并制定了最低国家标准。然而，Sky News获得的一封信显示，NHS高层警告医生称，未获批准且不符合最低标准的软件可能会对患者造成伤害。
这封由NHS England全国首席临床信息官于6月9日发出的信中写道：“我们注意到一些AVT解决方案尽管不符合标准，但仍在临床实践中广泛使用。”
“多家AVT供应商正与NHS组织接触……其中许多供应商尚未遵守基本的NHS治理标准。”
“采用不符合标准的解决方案可能会带来临床安全隐患、数据保护违规、财务风险以及更广泛的NHS数字化战略的碎片化。”
Sky News此前曾 揭露AI‘幻觉’的危险，即技术编造答案并对其撒谎，这在医疗环境中可能非常危险。
NHS England 设定了最低标准，但并未告知NHS信托机构和医疗服务提供者应使用哪些软件供应商。
Sky News现在可以披露，越来越多的压力正在施加给NHS England等机构，要求它们采取更加积极主动的措施。
英国医学协会全科医生委员会副主席 大卫·瑞格利（David Wrigley）博士 表示：“毫无疑问，作为一名全科医生，我和我的35,000名同事负有责任——但在这样一个快速发展的市场中，我们缺乏技术知识来深入研究这些问题。”
“我们需要那些能够检查产品是否安全、是否安全可靠、是否适合在诊室使用的帮助和支持，NHS England应该提供这种支持。”
瑞格利博士继续说道：“我们绝对支持技术发展，并希望推动其向前发展以帮助NHS患者和我的同事在手术中的工作。”
“但它必须以安全和可靠的方式进行，否则我们可能会陷入混乱——数据可能会丢失或泄露，这是不可接受的。”
“因此，我们不是反对新技术的恐龙，我们非常支持AI，但它必须是安全可靠的。”
NHS联合会首席执行官 马修·泰勒（Matthew Taylor） 表示，这封信是一个“非常重要的时刻”。
他表示，NHS进行实验是正确的，但需要更清楚地了解哪些技术是安全的，哪些不是。
泰勒先生说：“我个人认为，政府应在信托机构做出采购决策时提供帮助，并就哪些AI系统是安全的提供建议——就像我们对医学中使用的其他形式的技术所做的那样。”
“我们需要[政府]做更多工作来指导NHS如何最好地使用这项技术。”
当被追问短期内是否意味着这项技术可能相当危险时，泰勒回答道：“你从环境语音技术中看到的是那种‘百花齐放’的方法，但它有其局限性。”
今年早些时候，卫生大臣似乎暗示未经批准的技术正在被使用——但他将其视为医生热衷于变革的标志。
斯特里廷先生表示：“我确实听说过，在酒吧里聊天时得知，一些临床医生已经走在了前面，即使他们的诊所或信托机构尚未跟上，他们已经在使用环境AI来记录笔记等内容。”
“这里有很多问题——并不是鼓励这样做——但这告诉我，与‘哦，人们不想改变，员工很开心并且非常抗拒改变’相反，事实恰恰相反。人们渴望这些技术。”
符合国家标准的医生们表示，使用AI带来了巨大的好处。
卫生大臣选区伊尔福德的一名医生 阿尼尔·梅赫塔（Anil Mehta） 告诉Sky News，他支持其议员推动在医疗保健领域引入更多AI技术。
梅赫塔博士展示了他使用的环境语音技术版本。
这款名为Accurx Scribe的软件已按照所有现行NHS England对AVT的要求开发和部署，没有任何迹象表明该产品违反了任何规则、标准或指南。
事实上，开发该软件的公司每周都会与NHS England开会，制定标准化方法以扩大其在NHS中的应用。
梅赫塔博士表示：“我每周有30%的时间用于处理文书工作。”
“所以我觉得，一旦我解释清楚我们正在做的事情的所有功能，患者会非常放心。我还没有遇到过任何人反对我这样做。”
他补充道：“我认为与医生的咨询极其保密，这一点没有改变。”
“它仍然是保密的——无论是脆弱的成年人、脆弱的孩子、青少年还是父母陪同的小孩，我认为保密的概念依然存在。”
一名NHS发言人表示：“环境语音技术有可能彻底改变护理方式并提高效率。今年4月，NHS发布了支持其安全可靠使用的指导方针。”
“我们正在与NHS组织和供应商合作，确保整个卫生服务中使用的所有环境语音技术产品继续符合NHS关于临床安全和数据安全的标准。”
(全文结束)
