专家和医学研究人员对OpenAI于2026年1月推出的ChatGPT Health功能的安全性表示担忧。该功能通过连接用户的医疗记录和健康应用提供健康建议。
该研究发表在《自然医学》期刊，是该工具首次独立的第三方安全评估。结果显示，人工智能经常无法识别危及生命的医疗紧急情况。
这项由Ashwin Ramaswamy博士主导的研究使用了60个真实的患者场景对AI进行测试。结果发现，在医学上需要立即住院治疗的案例中，有51.6%的情况ChatGPT Health建议用户留在家中或预约常规门诊。
在模拟呼吸衰竭或糖尿病酮症酸中毒的场景中，研究人员指出AI有“五五开”的概率会低估病情的严重性。在一个哮喘场景中，尽管平台识别出了呼吸衰竭的迹象，但它仍然建议等待未来的预约，而不是立即寻求紧急救治。
如果“患者”提到朋友认为情况不严重，AI将症状轻描淡写的可能性高出12倍。反之，它又建议64.8%的健康个体立即就医，专家认为这可能导致不必要的就诊。
研究人员特别关注AI对自杀意念的处理。当患者单独提到有自杀想法时，平台会显示危机干预横幅；但当场景中包含“正常化验结果”时，这些防护措施在每次尝试中（0次成功，共16次）都失效了。Ramaswamy博士表示，依赖化验结果等无关数据而失效的防护措施“可以说比根本没有防护更危险”，因为其失效是不可预测的。
包括伦敦大学学院的Alex Ruani在内的专家形容这一发现“不可想象地危险”，警告AI会造成“虚假安全感”，可能导致可预防的伤害或死亡。Paul Henman教授指出，随着与AI相关的自杀和自残案件进入法律系统，科技公司可能面临法律责任。
OpenAI的一位发言人表示，该研究并未反映人们在实际生活中使用该工具的典型方式，并强调模型会持续更新和优化。但研究人员坚持认为，“潜在的伤害风险”证明了迫切需要独立监管和更严格的安全标准。
【全文结束】