纽约一名60岁男子因严格遵循ChatGPT生成的减钠饮食方案，导致严重低钠血症而住院治疗。医生指出，该男子在数周内将饮食中的钠摄入量骤降至接近零，这种极端的减钠行为导致出现危险的低钠血症。其家属透露，该男子未咨询专业医师，完全依赖AI生成的健康计划。近日发表在《美国内科医师学院期刊》的病例报告强调，AI健康建议在缺乏专业监督的情况下可能带来严重风险，特别是在涉及钠等必需营养素时。该男子经三周住院治疗后康复。
ChatGPT建议引发危险替代
报告显示，该男子向ChatGPT询问消除饮食中氯化钠的方法，AI工具建议使用溴化钠作为替代品。这种化合物曾在20世纪早期用于药物，但如今被证实大剂量使用具有毒性。该男子根据建议从网络购买溴化钠并用于烹饪达三个月。
在无既往精神或身体疾病史的情况下，该男子开始出现幻觉、偏执和极端口渴症状。入院时表现为意识混乱，甚至因恐惧污染而拒绝饮水。医生诊断其为溴化物中毒——这种如今罕见的病症曾因溴化物被用于治疗焦虑和失眠而常见。患者同时出现神经系统症状、痤疮样皮疹以及标志性的樱桃状血管瘤等典型"溴中毒三联征"。
医院治疗重点在于补液和恢复电解质平衡。经过三周治疗，患者状况逐渐好转，钠和氯化物水平恢复正常后出院。
AI误导风险警示
该病例研究作者强调AI工具引发的健康误导风险："需要认识到ChatGPT和其他AI系统可能生成科学错误，无法对结果进行批判性讨论，最终助长错误信息传播。"报告特别指出，OpenAI在其使用条款中明确声明："不应将服务输出作为唯一真理来源或专业建议的替代品。"条款同时说明该服务不适用于诊断或治疗医疗状况。
全球AI责任讨论
此案例凸显了解读AI生成建议时亟需批判性思维，特别是在涉及健康问题时。专家表示，AI工具在提供一般信息方面具有价值，但绝不能取代专业咨询。随着AI应用的普及，确保其输出准确、安全并被公众正确理解的责任日益凸显。
【全文结束】
