非专业人士对不准确或不恰当的人工智能（AI）生成的医疗建议的信任增加，可能会导致寻求医疗帮助的个体出现误诊并带来潜在有害后果。这一发现发表在《新英格兰医学杂志》上。
研究人员分析了非专业人士如何看待和评估AI生成的医疗回应。
研究人员进行了一项观察性研究，包括300名参与者评估由AI模型生成、随后由医生标记为高或低准确性的医疗回应，以及在线医疗平台上医生撰写的医疗回应。
参与者无法有效区分医生的回应和AI生成的回应。个人偏好倾向于AI生成的回应，这些回应被认为更完整、满意、可信且有效。
“当被告知高准确性的AI生成回应是由医生提供的时，参与者更加信任这些回应；而当回应来源未知时，专家对AI生成回应的评分显著更高。”
参与者认为被医生标记为低准确性的AI生成回应也是完整、满意、可信且有效的，并表示有强烈的倾向去寻求不必要的医疗关注并遵循可能有害的AI回应所提供的医疗建议。这种反应比参与者对医生回应的反应更强或至少相当。
专家和非专家都认为AI回应比医生回应更准确和全面，反映了两者的偏见。尽管如此，医生参与提供医疗建议的价值仍然得到认可。
研究人员总结道：“对不准确或不恰当的AI生成医疗建议的信任增加，可能会导致寻求帮助的个体出现误诊和有害后果。” “当被告知高准确性的AI生成回应是由医生提供的时，参与者更加信任这些回应；而当回应来源未知时，专家对AI生成回应的评分显著更高。”
(全文结束)
