研究发现AI医疗分诊工具漏诊许多紧急情况
西奈山伊坎医学院研究人员对ChatGPT Health进行了首次独立安全评估,发现这款广泛使用的消费者级AI医疗分诊工具在处理严重病例时存在显著缺陷,约一半需要紧急医疗护理的病例被错误分诊。研究还发现该工具的自杀危机防护措施存在严重问题,低风险情况下可能触发警报,而在高风险自残描述情况下却未能触发,系统警报与临床风险呈反向关系。专家警告,在涉及胸痛、呼吸困难、严重过敏反应或精神状态改变等严重症状时,公众应直接寻求医疗帮助而非依赖聊天机器人建议。研究强调AI健康工具应作为临床判断的补充而非替代,需持续评估以确保技术进步能转化为更安全的医疗服务。

