斯蒂文斯理工学院的奥努尔·阿桑副教授和博士生奥莉娅·雷扎伊安发现，在满足特定条件时，人工智能能够改善临床医生的图像评估。
近年来，人工智能已成为分析医疗图像的有力工具。得益于计算技术的进步和可供AI学习的大量医疗数据集，人工智能在解读X光、核磁共振和CT扫描图像中的模式方面已被证明是宝贵辅助，使医生能够做出更好、更快的决策，特别是在癌症等危及生命的疾病治疗和诊断中。在某些情况下，这些AI工具甚至比人类更具优势。
"AI系统可以快速处理数千张图像，并比人工审阅者更快地提供预测，"专注于医疗保健中人机交互研究的斯蒂文斯理工学院副教授奥努尔·阿桑表示，"与人类不同，AI不会随时间推移而疲劳或注意力下降。"
然而，许多临床医生对AI至少持一定程度的不信任态度，主要是因为他们不知道AI如何得出预测结果，这一问题被称为"黑箱"问题。
"当临床医生不了解AI如何生成预测时，他们就不太可能信任它，"阿桑表示，"因此我们想要了解提供额外解释是否能帮助临床医生，以及AI可解释性的不同程度如何影响诊断准确性以及对系统的信任度。"
阿桑与他的博士生奥莉娅·雷扎伊安以及利哈伊大学的助理教授阿尔帕斯兰·埃拉姆·拜拉克合作，对28名使用AI分析乳腺癌图像的肿瘤学家和放射科医生进行了研究。临床医生还获得了AI工具评估的各种程度的解释。最后，参与者回答了一系列旨在评估他们对AI生成评估的信心以及任务难度的问题。
研究小组发现，与对照组相比，AI确实提高了临床医生的诊断准确性，但也存在一些有趣的注意事项。研究表明，提供更深入的解释并不一定产生更多信任。
"我们发现，更高的可解释性并不等于更多的信任，"阿桑表示。
这是因为添加额外或更复杂的解释要求临床医生处理额外信息，使他们的时间和注意力从图像分析上转移。当解释更加详尽时，临床医生做出决策的时间更长，从而降低了他们的整体表现。
"处理更多信息会增加临床医生的认知负荷，也使他们更容易出错并可能对患者造成伤害，"阿桑解释道，"你不希望通过添加更多任务来增加用户的认知负担。"
阿桑的研究还发现，在某些情况下，临床医生过于信任AI，这可能导致忽视图像上的关键信息，从而对患者造成伤害。
"如果一个AI系统设计不佳且在用户高度信任它时出现一些错误，一些临床医生可能会产生盲目信任，认为AI建议的一切都是真实的，而不会充分审视结果，"阿桑表示。
该团队已在两项最新研究中概述了其发现：《人工智能解释对乳腺癌临床医生信任和诊断准确性的影响》发表在《应用人机工程学》上，以及《临床决策支持系统中的人工智能可解释性与置信度：对乳腺癌护理中信任、诊断表现和认知负荷的影响》发表在《人机交互国际杂志》上。
阿桑认为，AI将继续成为临床医生解读医学影像的有用助手，但此类系统必须经过深思熟虑的设计。"我们的研究结果表明，设计人员在向AI系统中构建解释时应谨慎行事，"他表示，以确保它们不会变得过于繁琐而难以使用。此外，他还补充说，用户需要适当的培训，因为人工监督仍然必不可少。"使用AI的临床医生应接受强调解读AI输出而非仅仅信任它的培训。"
阿桑指出，AI系统的易用性和实用性之间应该有一个良好的平衡。
"研究发现，人们使用任何技术形式有两个主要参数——感知有用性和感知易用性，"他表示，"因此，如果医生认为这个工具对完成工作有用且易于使用，他们就会使用它。"
更多信息奥莉娅·雷扎伊安等，《人工智能解释对乳腺癌临床医生信任和诊断准确性的影响》，《应用人机工程学》(2025)。DOI: 10.1016/j.apergo.2025.104577
奥莉娅·雷扎伊安等，《临床决策支持系统中的人工智能可解释性与置信度：对乳腺癌护理中信任、诊断表现和认知负荷的影响》，《人机交互国际杂志》(2025)。DOI: 10.1080/10447318.2025.2539458
【全文结束】
