医疗保健中的AI:一把双刃剑?研究揭示其对诊断准确率的影响
一项发表在《美国医学会杂志》(JAMA)的研究调查了系统性偏差的人工智能(AI)是否影响临床医生的诊断准确率,以及基于图像的AI模型解释能否减少模型错误。研究发现,当AI模型在临床预测中表现准确时,临床医生的诊断准确率提高;而在存在系统性偏差的AI预测时,诊断准确率下降。AI解释未能显著改善有偏差模型对临床医生诊断准确率的有害影响,影响程度估计约为81%。由于临床医生AI素养有限,无法充分理解模型解释,研究强调在将AI模型纳入临床环境前必须进行严格验证,这对确保患者安全和提高医疗质量具有重要意义。

