你会把急诊室的就诊交给人工智能吗？加州大学旧金山分校（UCSF）的研究人员在周二发布的一项新研究中回答了这个问题。
简而言之，研究人员目前不认为AI应该进行手术或为患者开药。然而，AI不仅有望成为未来医院的有益补充，更有趣的是，它已经在患者急诊过程的某些方面超越了当地医生。
实验
根据美国国家医学图书馆的数据，全国的急诊科都处于超负荷状态。因此，研究人员希望了解语言学习模型（LLM）是否至少能帮助医院处理基本的急诊患者接收任务。
UCSF研究人员收集并使用了超过10,000份真实的成人急诊就诊记录，并对全球最受欢迎的LLM之一——CHATGPT-4进行了测试。该研究测试了AI软件在患者急诊过程中的三个不同方面的表现：1. 入院状态 2. 影像学检查请求状态 3. 抗生素处方状态
这项研究是少数几项使用真实临床数据而非模拟情景评估LLM的研究之一，也是首次使用超过1,000个临床案例进行此类研究。
结果
在所有三项临床建议任务中，ChatGPT的整体表现“较差”，平均准确率低于医生。研究指出，AI软件在其建议中过于谨慎，具有高敏感性但特异性较低。
“这对临床医生来说是一个重要的信息，不要盲目信任这些模型，”该研究的主要作者、博士后学者Chris Williams说，“ChatGPT可以回答医学考试问题和帮助撰写临床笔记，但它目前并不适合需要多重考虑的情况，如急诊科的情况。”
尽管在影像学检查和抗生素处方建议方面显著落后于医生，但在确定患者进入急诊科时的初始入院状态方面，ChatGPT表现更好。ChatGPT和医生被要求通过选择“严重状况”或“较不紧急的状况（如骨折手腕）”来优先处理患者的“严重程度”和优先级。根据研究，在一个较小的500对子样本中，AI正确判断的比例为89%，而医生为86%。
尽管表现优于医生，但医生表示，AI在协助患者需求优先级排序和医院资源分配方面可以节省关键时间，以便更好地治疗最严重的患者，同时为处理多个紧急请求的医生提供决策支持工具。
前进中的问题
研究指出，偏见是将AI引入急诊科的主要问题之一。具体来说，由于训练数据中的偏见，可能会出现种族和性别偏见。
“展示AI可以做很酷的事情固然很好，但最重要的是要考虑谁从中受益，谁又受到了损害，”Williams说，“仅仅能够做某事是否就是使用AI的标准，还是能够为所有类型的患者做好某事才是标准？”
此前，GPT 3.5-turbo在被要求提供简单的心血管疾病预防建议时，提供了“大致适当的回应”。当被问及他们对其建议过程的感受时，公众表示他们更喜欢与AI的互动，并认为其同理心高于医生的回应。
“没有完美的解决方案，但既然我们知道像ChatGPT这样的模型有这些倾向，我们就必须思考如何让它们在临床实践中表现得更好，”Williams说，“即将开展的工作将解决如何在临床环境中最佳部署这项技术的问题。”
(全文结束)
