根据发表在《新英格兰医学杂志》上的研究发现，对人工智能（AI）生成的不准确或不恰当医疗建议的过度信任，可能导致非专业人士误诊并带来潜在危害。
研究人员分析了非专业人士如何感知和评估人工智能生成的医疗回应。他们开展了一项观察性研究，共有300名参与者对医疗回应进行评估。这些回应有的由人工智能模型生成，并由医生标记为高准确度或低准确度，有的则由在线医疗平台的医生撰写。
参与者无法有效区分医生的回答和人工智能生成的回答。他们更偏好人工智能生成的回答，认为这些回答更为全面/令人满意、值得信赖且有效。
研究指出，当参与者被告知某项高准确度人工智能生成的回答来自医生时，他们对其信任度更高；而专家在不知回答来源的情况下，也对人工智能生成的回答评价显著更高。
即使医生将某些人工智能生成的回答标记为低准确度，参与者仍然认为这些回答是全面/令人满意、值得信赖且有效的，并表现出较高的倾向去寻求不必要的医疗帮助，甚至遵循可能带来危害的人工智能建议。这种反应比或至少与他们对医生回答的反应相当。
参与者认为人工智能的回答比医生的回答更准确和详尽，这反映了专家和非专家都存在的偏见。即便如此，人们仍然重视医生在提供医疗建议中的参与。
研究者总结道：“对不准确或不恰当人工智能生成的医疗建议的过度信任，可能给寻求帮助的个体带来误诊和潜在危害。参与者在得知某项高准确度人工智能生成的回答来自医生时更加信任它；而专家在不知道回答来源的情况下，也对人工智能生成的回答评价显著更高。”
【全文结束】
