沃伦·蒂尔尼（Warren Tierney），37岁，居住在爱尔兰西南部凯里郡基拉尼镇，每次吞咽食物时都会感到疼痛。他向AI聊天机器人ChatGPT咨询症状，后者回应称“癌症可能性极低”，并安慰蒂尔尼“你的描述中没有任何迹象表明存在癌症”。然而，在忍受疼痛并前往医院就诊后，蒂尔尼被确诊为四期食道癌。正在接受癌症治疗的蒂尔尼向《经济时报》表示：“我因过度依赖AI陷入困境”，并补充道：“我因AI的保证浪费了关键月份”。
尽管AI因能快速预测和诊断重症、减轻医护人员负担并引领医疗革命而备受赞誉，但其仍存在重大问题和未解挑战。专家警告称，若未经充分有效性验证便在医疗领域滥用AI工具，可能导致严重医疗事故，且责任归属难以界定。
AI误诊风险源于特定数据训练
医疗界将AI医生的诊断错误及其引发的患者风险视为最大问题。由于AI的决策过程对人类医生而言难以理解，检测和证实误诊尤为困难。美国科恩儿童医疗中心（Cohen Children’s Medical Center）研究人员在2024年的一项研究中分析了100例儿科诊断案例，发现ChatGPT的误诊率高达83%。研究者指出：“AI在儿科案例中的误诊率尤其高，因为这类诊断需对症状和年龄进行复杂综合考量”。
AI误诊源于基于偏见医疗数据训练导致的结构性问题。AI的判断依据来自现有研究群体数据，主要涵盖发达国家白人男性案例。这意味着，对于罕见疾病或来自数据匮乏的低收入国家患者，AI的诊断可能不准确。世界经济论坛（WEF）在10月指出：“AI医疗系统建立在小规模人群数据基础上”，并警告称“这可能加深全球健康不平等”。斯坦福大学研究发现，AI对黑人女性的误诊率高达50%。
基于偏见数据训练的AI医生可能导致治疗不平等。尽管AI医疗本应通过惠及边缘群体和偏远地区无医院患者来缩小医疗差距，但反而可能加剧这一问题。今年4月发表在《自然医学》（Nature Medicine）上的一篇论文指出，AI大型语言模型（LLMs）可能发布反映患者社会人口特征的、缺乏医学依据的建议。研究人员分析了1000例真实临床案例后发现，九种AI模型均存在倾向性：对黑人群体、性少数群体和无家可归者推荐不必要的心理健康评估；对低收入患者仅建议基础检查，却对高收入患者推荐CT或MRI等昂贵扫描。类似研究显示，当症状相同时，AI常比男性更轻视女性的健康问题。路透社评论称：“AI已复制了现实世界中基于财富差距的医疗不平等”。
误诊责任归属模糊
若因AI医生诊断导致医疗事故，法律责任界定模糊。目前医疗事故中，医护人员和医院可因疏忽担责，但当AI误读CT或X光片时，责任应归于医生、医院还是AI开发者尚不明确。据美国法律信息公司Enjuris统计，2024年涉及AI的医疗诉讼较2022年增加14%。典型案例包括影像AI未能检测出癌症或骨折，而医生未复核结果。Enjuris表示：“法院尚未判定AI应被视为医疗器械、医疗服务还是医生使用的工具”。
这是全球性问题。世卫组织9月对50个欧洲成员国的调查显示，43个国家将法律不确定性列为采用医疗AI的最大障碍，仅爱沙尼亚和西班牙等四国建立了相关法律框架。世卫组织欧洲区域主任汉斯·克吕热博士（Dr. Hans Kluge）指出：“若缺乏清晰的战略、数据隐私保护、法律保障及AI应用能力投资，AI将深化而非减少医疗不平等”。
【全文结束】
