谷歌AI概览因误导性健康建议使民众面临健康风险Google AI Overviews put people at risk of harm with misleading health advice | Google | The Guardian

环球医讯 / AI与医疗健康来源:www.theguardian.com英国 - 英语2026-01-05 20:45:06 - 阅读时长3分钟 - 1199字
《卫报》调查发现谷歌AI概览功能在健康领域提供严重误导信息,包括错误建议胰腺癌患者回避高脂饮食(可能危及化疗或手术资格)、扭曲肝功能检测正常值范围(导致晚期肝病患者误判病情),以及将宫颈筛查错误标注为阴道癌检测手段。多位医疗专家指出此类错误可能直接危害生命,临终关怀机构强调民众在危机时刻依赖网络信息时,AI的反复无常响应机制会因搜索时间不同产生矛盾结论,英国患者信息论坛警示该功能已将不实健康信息置于搜索结果首位,而谷歌坚称其准确性与其他搜索功能相当并持续优化。
谷歌AI概览误导性健康建议健康风险虚假健康信息胰腺癌肝功能检测阴道癌心理健康精神病进食障碍医疗建议
谷歌AI概览因误导性健康建议使民众面临健康风险

《卫报》独家调查显示,谷歌的人工智能摘要功能正在使民众面临健康危害风险,其提供的虚假和误导性健康信息可能造成严重后果。

谷歌声称其AI概览(AI Overviews)通过生成式人工智能为用户提供主题核心信息摘要,具有"帮助性"和"可靠性"。但部分出现在搜索结果顶部的摘要却包含不准确的健康信息,使用户处于危险境地。

在专家描述为"极其危险"的案例中,谷歌错误建议胰腺癌患者回避高脂饮食。专家指出这与正确医疗建议完全相悖,可能增加患者死于该疾病的风险。英国胰腺癌组织支持、研究与影响力总监安娜·休厄尔表示:"该建议完全错误,若患者遵循此结果将导致热量摄入不足、难以增重,进而无法承受化疗或潜在的救命手术。"

另一起"令人警觉"的案例涉及关键肝功能检测数据。英国肝病信托基金会首席执行官帕梅拉·希利指出,AI摘要声称的"正常"数值与实际医学标准存在巨大差异:"许多肝病患者晚期才显现症状,因此及时检测至关重要。但谷歌AI可能使严重肝病患者误判检测结果正常,从而放弃后续医疗随访。"

针对"阴道癌症状与检测"的搜索,系统错误将宫颈涂片检查列为阴道癌检测手段。伊芙关怀癌症慈善机构首席执行官阿西娜·拉姆尼索斯强调:"该检测并非用于发现阴道癌——这是完全错误的信息。此类误导可能导致女性因近期宫颈筛查正常而忽视阴道癌症状。更令人担忧的是,重复相同搜索会触发AI调用不同来源生成矛盾回应,这意味着用户获取的答案随搜索时间变化,这种可靠性缺失不可接受。"

心理健康领域同样存在风险。心理健康慈善机构Mind的信息主管斯蒂芬·巴克利指出,关于精神病和进食障碍的AI摘要提供"极具危害性的建议","内容不准确、有害,甚至可能阻止患者寻求帮助"。他补充说明:"摘要常缺失关键背景信息,可能引导用户访问不适当网站,且AI总结往往反映既有偏见、刻板印象或污名化叙事。"

患者信息论坛主任索菲·兰德尔强调:"谷歌AI概览将不实健康信息置于网络搜索顶端,对民众健康构成切实威胁。"临终关怀慈善机构Marie Curie的数字业务总监斯蒂芬妮·帕克警告:"人们在焦虑与危机时刻求助互联网,若获取的信息不准确或脱离语境,将严重损害健康。"

谷歌发言人称,多数健康案例截图"不完整",可验证部分均"链接至知名可靠来源并建议寻求专业医疗建议"。该公司表示持续投入提升AI概览质量,其准确性与其他搜索功能(如已存在十余年的精选摘要)相当,并强调当AI误解网络内容或缺失语境时,将依据政策采取相应措施。

【全文结束】

猜你喜欢
  • 公共卫生警告:不列颠哥伦比亚省枫树岭两家商店查获的未经授权健康产品可能带来严重健康风险公共卫生警告:不列颠哥伦比亚省枫树岭两家商店查获的未经授权健康产品可能带来严重健康风险
  • 利用基于虚拟孪生的AI模型检测心房颤动并改善中风预后:一项多中心前瞻性队列研究利用基于虚拟孪生的AI模型检测心房颤动并改善中风预后:一项多中心前瞻性队列研究
  • 推进医疗AI:评估准确性与未来方向推进医疗AI:评估准确性与未来方向
  • 藏红花:一种神奇药物?藏红花:一种神奇药物?
  • 医疗保健的未来:医疗编码AI如何变革行业医疗保健的未来:医疗编码AI如何变革行业
  • 血管外科学会对CREST-2研究结果发表专业评论血管外科学会对CREST-2研究结果发表专业评论
  • 住院环境中的过度诊断:金发姑娘原则的启示住院环境中的过度诊断:金发姑娘原则的启示
  • 批判性AI健康素养作为解放技术:患者赋权的新技能批判性AI健康素养作为解放技术:患者赋权的新技能
  • 初级保健中的人工智能:创新的十字路口初级保健中的人工智能:创新的十字路口
  • 硒对整体健康的益处及剂量建议硒对整体健康的益处及剂量建议
热点资讯
全站热点
全站热文