专家发现，用于医学领域的人工智能可能以意想不到的方式损害人们的隐私。
此类医疗AI系统具有多种用途，许多人声称它可以极大地改善医疗保健。在那些专业医疗知识稀缺的地区，它们可能特别有用，人们可能会转而依赖人工智能，例如使用它通过医学图像诊断问题。
但一项新研究警告称，同样的技术可能会损害用于训练它的数据所属人员的隐私——而他们可能永远不会知晓。这是可能影响这一变革性新技术的各种安全漏洞之一。
新研究警告称，恶意用户可能能够在医疗AI系统上进行隐私攻击，使黑客能够确定某人是否正在接受特定疾病的治疗。
与其他人工智能系统类似，医疗AI工具的工作原理是将各种数据——如患者图像——提供给计算机，并告诉它哪些图像表示特定结果。系统随后可以学习寻找这些模式，从而识别潜在症状。
用于该研究的数据所属人员本应保持匿名。但新研究表明，可能可以确定特定患者的数据是否用于训练该模型。
这可能会被用来获取关于特定患者的敏感医疗信息。例如，在新研究中，研究人员描述了一种可用于确定某人是否患有癌症的攻击方法。
该研究关注一种称为"成员推断攻击"的特定黑客手段，它使黑客能够判断特定患者的数据是否用于训练给定模型。他们发现，这种攻击对某些个体患者可以达到"近乎完美的成功率"，而且对代表性不足的群体风险更大。
研究人员警告称，网络犯罪分子可能会利用这一点侵犯人们的隐私，并可能将获取的数据用于其他类型的攻击。
研究人员警告说："鉴于这种漏洞，应评估医疗AI模型及其部署环境，以确定攻击者通过成功推断训练数据集成员身份可能获取的敏感信息。"该研究应该成为证据，表明医疗AI系统需要加强防范此类攻击。
这项研究成果已发表在题为《医疗AI带来的差异化隐私风险》的新论文中，该论文发表在《自然》杂志上。
【全文结束】