通常，医疗保健行业的技术进步被视为积极的。更快、更准确的诊断、非侵入性程序以及更好的治疗支持了这一观点。最近，人工智能（AI）通过协助早期检测糖尿病视网膜病变等疾病，改善了诊断和患者护理。然而，这些相同的技术也催生了一种新的、令人担忧的威胁：深度伪造。
随着生成式人工智能（GenAI）变得越来越普及，深度伪造在医疗保健领域也越来越普遍，对患者安全、数据安全以及医疗系统的整体完整性构成了威胁。
医疗保健行业中的深度伪造是什么？
“医疗保健中的深度伪造”指的是将AI技术应用于创建高度逼真的合成数据，形式包括图像、音频记录或视频片段。
再现某人声音的音频深度伪造在医疗保健中尤其具有威胁性，因为该行业依赖电话和口头交流。无论用于窃取患者数据还是扰乱运营，音频深度伪造都代表了一个真实且不断增长的危险。
深度伪造AI对医疗保健构成日益增长的威胁
目前最大的担忧之一是使用深度伪造技术窃取敏感患者数据，但这并不是唯一的风险。篡改医疗结果可能导致错误诊断和随后的错误治疗，而人类难以发现深度伪造使得这个问题更加严重。
一项2019年的研究生成了CT扫描的深度伪造图像，显示不存在的肿瘤或删除存在的肿瘤。放射科医生被要求根据这些扫描进行诊断。
对于添加了肿瘤的扫描，99%被认为恶性。对于没有肿瘤的扫描，94%被诊断为健康。为了双重检查，研究人员告知放射科医生CT扫描中包含一定数量的被操纵图像。即使有了这个知识，医生仍然误诊了60%的添加肿瘤和87%的删除肿瘤。
攻击者还可以使用生成式AI模仿医生、护士或管理人员的声音，并可能说服受害者采取可能泄露敏感信息的行为。
为什么医疗保健容易受到深度伪造的影响
虽然没有人能完全免受深度伪造的影响，但医疗保健是一个特别脆弱的领域，因其运作方式和处理数据的重要性。
高度敏感的数据是医疗单位的核心，在黑市上非常有价值。这使它成为网络犯罪分子的主要目标，他们可能会使用深度伪造技术访问系统或从不知情的工作人员那里提取数据。
医疗保健行业严重依赖口头交流，包括电话、口头命令和语音驱动技术。大多数人认为口头互动是可信的，这为音频深度伪造利用这种信任提供了完美的舞台。
此外，医疗工作者和患者对医疗专业人员有深厚的信任。合成音频可以完美模仿医生的声音，可能欺骗患者、护理人员或行政人员采取有害行动。
深度伪造如何威胁医疗系统
深度伪造，尤其是基于音频的深度伪造，对医疗系统构成各种风险。以下是这些复杂的AI伪造可能威胁医疗系统的四种主要方式。
1. 窃取患者数据
医疗机构存储敏感个人数据，包括病史、社会保障号码和保险详细信息。网络犯罪分子可以使用音频深度伪造冒充医生或管理人员，获得未经授权访问这些数据仓库的权限。
例如，一个医生声音的深度伪造可能会欺骗护士或工作人员通过电话释放机密患者信息，从而为身份盗窃或医疗欺诈铺平道路。
2. 扰乱运营
深度伪造有可能造成医疗运营的大规模中断。想象一下，一个骗子传播医院主任的深度伪造音频，指示员工延迟治疗或改变协议。
员工可能会质疑指令，但这会造成中断——在处理紧急情况时，即使是轻微的犹豫也可能导致严重的护理延误。
3. 敲诈
使用深度伪造音频的骗局已不再罕见。有人可以创建虚假的音频录音，使其听起来像医疗专业人员涉及不道德或非法活动。
然后他们可以使用音频文件敲诈专业人员或组织，要求支付大笔钱以防止发布假录音。
4. 妨碍沟通和信任
医疗保健依赖于医生、护士和管理人员之间准确及时的信息交换。冒充这些关键人物的深度伪造会破坏这种沟通，导致信任崩溃。
当你无法确定听到的声音是否真实，或看到的结果是否真实时，这会影响医疗系统的效率。一些患者可能会犹豫是否遵循医疗建议，而医生可能会难以区分合法通信和深度伪造。
保护医疗系统免受深度伪造的侵害
医疗深度伪造对患者和医疗专业人员都是威胁。那么，我们如何保护医疗系统？以下是几个重要的步骤。
采取主动措施
及早发现深度伪造比处理深度伪造骗局的后果要好得多，因此采取主动措施应该是你的第一道防线。对抗深度伪造最有用的工具之一是语音认证技术，如Pindrop® Passport，它可以分析音调、语调和节奏等声学特征来帮助验证来电者。
投资AI驱动的深度伪造检测软件是另一种有效的缓解选择。像Pindrop® Pulse™ Tech这样的系统可以分析音频内容，识别模式不一致之处，如不自然的声音变化。AI驱动的工具可以从新开发的深度伪造模式中学习，因此可以帮助你抵御旧技术和新技术。
记住要培训你的员工。虽然人类不太擅长检测合成声音或图像，但当人们意识到深度伪造带来的风险时，他们可以更好地识别潜在的红旗。
这些包括语音交互中的异常延迟、远程医疗预约期间的不规则视觉线索或通信中的差异。你还可以定期进行钓鱼模拟，帮助员工识别和响应可疑通信。
实施数据安全最佳实践
主动措施是第一道防线，但你不应忘记数据保护。
多因素认证（MFA）是一种简单但强大的数据保护机制，可以帮助确认只有授权人员可以访问敏感的医疗系统。使用MFA，一个人需要不止一种验证形式，因此即使有人窃取了一组凭据或模仿了某人的声音，仍有第二道防线。
加密通信渠道甚至存储的数据是数据安全的另一个重要方面。在医疗保健中，跨网络发送语音、视频和数据很常见，因此加密通信是必不可少的。保护存储的数据增加了额外的安全层，即使第三方获得了访问权限，他们仍然需要一把钥匙才能解锁。
记得定期更新和监控你的数据安全实践。
今天就保护你的医疗组织免受深度伪造的影响
当人工智能技术首次引起公众注意时，其用途主要是积极的。在医疗保健中，例如，合成媒体在研究、培训和发展新技术方面是有帮助的，而且仍然是有用的。
遗憾的是，同样的技术也可能走向阴暗面，骗子使用它冒充医生、获取敏感患者数据或扰乱运营。像Pindrop® Passport和Pindrop® Pulse™ Tech插件这样的解决方案提供了一种强大的方法，在深度伪造渗透到医疗通信渠道之前验证声音和检测音频深度伪造。
通过结合主动检测工具和强大的数据安全实践，医疗提供商可以更好地保护自己、他们的患者及其运营，免受深度伪造带来的毁灭性后果。
(全文结束)
