西奈山研究人员对ChatGPT Health安全性提出担忧
西奈山伊坎医学院研究人员在《自然·医学》发表的开创性研究显示,健康版ChatGPT在处理紧急医疗状况时存在严重安全隐患,对医生判定需紧急治疗的重症病例中超过52%存在评估不足问题。研究团队通过60种覆盖21个医学专科的临床场景,在960次交互测试中发现该AI工具在复杂情境下表现欠佳,例如识别出哮喘患者呼吸衰竭早期征兆却未建议紧急救治,且自杀风险预警系统存在严重不一致性——低风险场景错误触发而高危自残描述时却失效。研究人员强调消费者不应完全放弃AI医疗工具,但必须建立持续独立评估机制,因AI系统频繁更新可能导致性能波动,亟需确保其安全性和临床可靠性以保障患者生命安全。

