虽然**人工智能（AI）**是医学领域的一项革命性工具，但一项新的研究表明，放射科医生可能会过度依赖AI的建议，尤其是当AI突出显示X光片的特定部分时。美国的一组研究人员招募了全国多个站点的220名医生，任务是审查胸部X光片，并借助AI生成的建议进行工作。参与者包括放射科医生和内科或急诊科医生，他们可以接受、修改或拒绝AI的建议。
该研究发表在期刊Radiology上，探讨了AI建议的类型（局部或全局）及其准确性如何影响诊断。局部解释是指AI突出显示X光片上的特定兴趣区域，而全局解释是指AI提供类似过往病例的图像，以展示其建议的依据。
“我们发现，当AI的建议正确时，局部解释提高了诊断准确性并减少了解读时间。”该研究的共同作者之一、圣犹大儿童研究医院智能成像信息学主任Paul H Yi博士告诉Euronews Health。
当AI提供准确建议时，局部解释使审查者的诊断准确率达到92.8%，而全局解释的准确率为85.3%。然而，当AI的诊断错误时，局部解释的诊断准确率降至23.6%，而使用全局解释的医生的准确率降至26.1%。
“这些发现强调了精心设计AI工具的重要性。解释设计不仅仅是附加功能；它是确保AI增强临床实践而不是引入意外风险的关键因素。”Yi说。
AI解释类型会影响信任
一个意外的发现是，放射科医生和非放射科医生都很快信任局部解释，即使AI是错误的。“这揭示了一个微妙但关键的见解：AI解释的类型可以以用户可能未意识到的方式塑造信任和决策。”他补充道。
他提出了几个减轻这种“自动化偏见”风险的建议——人类倾向于过度依赖自动化。
“医生通过多年的培训和重复学习遵循一种模式或清单。目的是创建一个常规，减少可能导致意外错误的变化。”他说。
然而，引入AI工具增加了新的因素，可能会破坏这一常规。“我们必须坚持我们的清单并确保遵守。但我设想未来我们的清单将会改变，以纳入AI。”Yi说，并补充道，还应研究人机交互，考虑压力或疲劳等因素。
(全文结束)
