非专家对不准确或不适当的由人工智能（AI）生成的医疗建议的信任增加，可能会导致寻求医疗帮助的人被误诊并带来潜在有害后果。这一发现发表在《新英格兰医学杂志》上。
研究人员分析了非专家如何感知和评估AI生成的医疗回应。
研究人员进行了一项观察性研究，包括300名参与者评估医疗回应。这些回应要么是由AI模型生成后由医生标记为高或低准确性，要么是由医生在在线医疗平台上撰写的医疗回应。
参与者无法有效区分医生的回应和AI生成的回应。个人偏好倾向于AI生成的回应，这些回应被认为更加完整、令人满意、值得信赖且有效。
“当被告知高准确性的AI生成回应是由医生给出时，参与者对其更为信任；而当回应来源未知时，专家对AI生成回应的评价显著更高。”
参与者认为医生标记为低准确性的AI生成回应也同样是完整、令人满意、值得信赖且有效的，并表示有很高的倾向去寻求不必要的医疗关注和遵循可能有害的AI建议。这种反应比对医生回应的反应更强或至少相当。
专家和非专家都认为AI回应比医生回应更准确和全面，这反映出两者的偏见。尽管如此，医生参与提供医疗建议的价值仍然得到认可。
研究人员总结道：“对不准确或不适当的AI生成医疗建议的信任增加，可能导致寻求帮助的人被误诊并带来有害后果。” “当被告知高准确性的AI生成回应是由医生给出时，参与者对其更为信任；而当回应来源未知时，专家对AI生成回应的评价显著更高。”
参考文献：
Shekar S, Pataranutaporn P, Sarabu C, Cecchi GA, Maes P. 人们尽管知道AI生成的医疗建议准确性低但仍过度信任。《新英格兰医学杂志》，2025年5月13日在线发表。doi:10.1056/AIoa2300015
(全文结束)
