一项大型新研究对使用AI聊天机器人提供医疗建议发出了严厉警告，指出即使普通人使用最新的“医生机器人”，仍可能无法识别严重疾病。
英国公众被警告称，这些AI系统可能无法做出正确的决定——尽管这些机器人在医学考试中取得了高分。这一消息发布之际，英国政府宣布将加大AI在医疗保健领域的使用，作为其十年计划的一部分。
在全球首次试验中，1,298名公众被要求通过两种方式处理十种常见健康情景——例如胸痛或腹部问题——一种是使用领先的AI聊天机器人（如ChatGPT的GPT-4o），另一种是使用传统信息来源，如谷歌或NHS网站。
研究结果显示，这些机器人单独测试时表现令人印象深刻，正确识别医学状况的比例高达95%。然而，当真实用户使用它们寻求帮助时，结果却令人震惊地糟糕。仅34.5%的病例诊断正确，而在56%的病例中，用户做出了错误的决策，例如是否去急诊室或留在家中。
研究人员表示，问题不在于这些机器人缺乏医学知识，而在于它们与人类的互动方式。用户往往向机器人提供了不完整或模糊的信息，而机器人虽然技术上正确，却未能清楚地解释下一步该做什么。
这一结果引发了政府和技术公司推广医疗AI的严重担忧。诺丁汉特伦特大学社会科学院教授罗伯特·丁沃尔（Robert Dingwall）表示：“这只是一项研究，但它提醒我们，技术开发者在模型、模拟和想象中认为有效的东西很少能成功转移到现实生活中。卫生和社会关怀部应谨慎对待，不要把赌注押在‘愚人金’上。”
牛津大学循证医学中心主任、急救全科医生卡尔·亨尼根教授（Carl Heneghan）补充说：“医生需要十年的培训才能成为顾问，积累识别严重和危及生命疾病的丰富经验和专业知识。尽管AI在解读X光片和心电图等领域有一定作用，但它无法替代全面的病史采集和体格检查来诊断疾病。未经测试的AI大规模推广会浪费资源，并且正如这项研究所示，可能对寻求诊断的患者造成伤害。”
上周，英国政府发布了其十年计划，旨在将NHS从治疗疾病转向预防疾病——这一战略高度依赖数字工具、应用程序和AI来赋能患者。在其周四发布的宣言中提到：“该计划将使NHS进入数字化时代，确保工作人员受益于新技术带来的优势和效率……政府还将利用数字电话系统，确保所有拨打GP诊所的电话都能迅速接听。对于有需求的人群，他们将在请求当天获得数字或电话咨询。”
但这项研究表明，AI在实验室中的表现与其在现实世界中的应用之间存在巨大差距。作者警告称，当前的基准测试具有误导性，AI工具不仅需要测试其知识水平，还需要评估其与非专家沟通的能力。
一位研究负责人表示：“仅仅因为聊天机器人可以通过医生考试，并不意味着它能在你生病时帮助你。这就像是给人一个听诊器，期望他们能进行心脏手术。”研究人员强调，未来的AI工具必须更加主动——提出清晰、引导性的问题并积极管理对话，而不是依赖用户了解哪些细节在医学上重要。
这些发现呼应了早期的研究，表明即使是经过训练的医生，在AI的帮助下也没有提高诊断能力。而现在我们知道，普通公众也是如此。专家呼吁在将AI应用于医疗保健之前进行严格的用户试验，尤其是在直接为患者提供建议的情况下。
否则，人们可能会陷入虚假的安全感中，要么推迟就医，要么不必要地涌向急诊室。NHS应用程序将成为医疗服务的“数字化前门”。
一位政府发言人告诉GB News：“通过我们的十年健康计划，我们正在削减整个卫生服务系统的官僚主义，减少繁琐的行政任务，并利用技术让医生专注于他们最擅长的事情——照顾患者。这包括推出AI记录员，以结束临床笔记、信件起草和手动数据录入的需求，使临床医生能够专注于治疗患者，相当于为全科医疗增加了2,000名医生的时间。”
“我们已经减少了住院医生必须完成的重复性强制培训，并在今年提供了高于通胀的第二次加薪。我们一直在倾听医生的意见，改善他们的工作生活。还有更多工作要做，但NHS已经在小变化上取得了显著进展，这些变化产生了巨大的影响。”
(全文结束)
