AI医疗建议可能带来"危险"风险—你需要了解什么
牛津大学研究人员开展的一项新研究警告,使用大型语言模型获取医疗建议并做出医疗决策存在严重风险。该研究招募1300名参与者模拟特定医疗状况,分为两组对比测试:一组使用ChatGPT等AI模型咨询,另一组采用传统信息渠道。结果显示AI系统虽具备医学知识理解能力,却在医患沟通环节存在致命缺陷,常导致错误诊断且无法识别紧急情况。研究负责人丽贝卡·佩恩博士强调,患者需警惕向AI描述症状的危险性,当前技术远未达到替代医生的水平。专家呼吁AI医疗系统应像新药研发一样经过严格临床试验,特别是南非大学研究证实88%的AI聊天机器人会自信输出错误医疗建议,这种可被操纵的特性可能催生难以监管的新型虚假信息渠道。

