《卫报》独家调查显示,谷歌的人工智能摘要功能正在使民众面临健康危害风险,其提供的虚假和误导性健康信息可能造成严重后果。
谷歌声称其AI概览(AI Overviews)通过生成式人工智能为用户提供主题核心信息摘要,具有"帮助性"和"可靠性"。但部分出现在搜索结果顶部的摘要却包含不准确的健康信息,使用户处于危险境地。
在专家描述为"极其危险"的案例中,谷歌错误建议胰腺癌患者回避高脂饮食。专家指出这与正确医疗建议完全相悖,可能增加患者死于该疾病的风险。英国胰腺癌组织支持、研究与影响力总监安娜·休厄尔表示:"该建议完全错误,若患者遵循此结果将导致热量摄入不足、难以增重,进而无法承受化疗或潜在的救命手术。"
另一起"令人警觉"的案例涉及关键肝功能检测数据。英国肝病信托基金会首席执行官帕梅拉·希利指出,AI摘要声称的"正常"数值与实际医学标准存在巨大差异:"许多肝病患者晚期才显现症状,因此及时检测至关重要。但谷歌AI可能使严重肝病患者误判检测结果正常,从而放弃后续医疗随访。"
针对"阴道癌症状与检测"的搜索,系统错误将宫颈涂片检查列为阴道癌检测手段。伊芙关怀癌症慈善机构首席执行官阿西娜·拉姆尼索斯强调:"该检测并非用于发现阴道癌——这是完全错误的信息。此类误导可能导致女性因近期宫颈筛查正常而忽视阴道癌症状。更令人担忧的是,重复相同搜索会触发AI调用不同来源生成矛盾回应,这意味着用户获取的答案随搜索时间变化,这种可靠性缺失不可接受。"
心理健康领域同样存在风险。心理健康慈善机构Mind的信息主管斯蒂芬·巴克利指出,关于精神病和进食障碍的AI摘要提供"极具危害性的建议","内容不准确、有害,甚至可能阻止患者寻求帮助"。他补充说明:"摘要常缺失关键背景信息,可能引导用户访问不适当网站,且AI总结往往反映既有偏见、刻板印象或污名化叙事。"
患者信息论坛主任索菲·兰德尔强调:"谷歌AI概览将不实健康信息置于网络搜索顶端,对民众健康构成切实威胁。"临终关怀慈善机构Marie Curie的数字业务总监斯蒂芬妮·帕克警告:"人们在焦虑与危机时刻求助互联网,若获取的信息不准确或脱离语境,将严重损害健康。"
谷歌发言人称,多数健康案例截图"不完整",可验证部分均"链接至知名可靠来源并建议寻求专业医疗建议"。该公司表示持续投入提升AI概览质量,其准确性与其他搜索功能(如已存在十余年的精选摘要)相当,并强调当AI误解网络内容或缺失语境时,将依据政策采取相应措施。
【全文结束】

