谷歌因AI医疗信息问题陷入困境,与此同时,Anthropic正加速进军医疗保健领域的AI应用。
《卫报》调查发现,谷歌对从胰腺癌到肝病等各类问题的回答存在脱离上下文甚至错误的情况,这些内容可能威胁患者健康,因此谷歌已移除部分医疗搜索查询的AI响应功能。据《卫报》报道,谷歌具体屏蔽了"肝功能测试的正常范围是什么"和"肝功能测试参考值范围是什么"等搜索词的AI概览功能。然而,科技媒体TechCrunch发现,"lft参考范围"或"lft测试参考范围"等相关搜索仍会触发AI响应(LFT代表"肝功能测试")。
英国肝脏信托基金的传播与政策总监向《卫报》表示:"我们更担忧的是,谷歌仅对单个搜索结果吹毛求疵并屏蔽AI概览功能,却未解决健康领域AI概览的根本问题。"
该媒体1月初发布的原始调查指出,关于肝功能测试的查询结果返回了大量数字,却未提供充分的上下文以考虑患者年龄、性别或种族等关键因素。同样,关于胰腺癌的搜索建议患者避免高脂肪食物,但一位专业人士告诉《卫报》,这种说法"完全错误",可能导致患者在治疗期间因减重而危及健康。另一项搜索错误地将巴氏涂片描述为阴道癌检测手段,事实上,根据梅奥诊所的说明,该测试主要用于筛查可能提示宫颈癌的异常情况。
癌症慈善机构Eve Appeal的首席执行官向《卫报》表示:"我们看到的部分结果令人极度担忧,可能将女性置于危险境地。"
谷歌发言人发表声明称:"我们对AI概览的质量投入了大量资源,尤其是健康等领域的信息,绝大多数内容都准确无误。"该发言人补充道,"我们的内部临床团队审查了已分享的内容,发现许多情况下信息并无错误,且得到了高质量网站的支持。当AI概览缺失部分上下文时,我们会进行广泛改进,并在适当情况下依据政策采取行动。"谷歌发言人还表示,《卫报》分享的部分案例信息不完整,无法充分评估,而在多个具体实例中,AI概览引用了权威信息来源。
【全文结束】

