研究揭示医疗人工智能中的隐私风险
慕尼黑工业大学、伦敦帝国理工学院和哈索·普拉特纳研究所联合开展的研究发现,医疗人工智能模型存在严重隐私泄露风险。研究表明,通过成员推断攻击(MIAs),攻击者可确定个人健康数据是否被用于训练AI模型,对数据集中代表性不足群体的攻击成功率接近100%。这意味着即使单独的医疗数据看似无害,一旦被确认用于训练癌症检测模型,就可能暴露患者病史,导致保险歧视等严重后果。随着AI模型日益复杂,风险将进一步加剧,研究团队呼吁在模型发布前评估个体患者层面的风险,并采用差分隐私等技术加强防护,以保护患者敏感健康信息不被滥用。

