当涉及到保护患者信息安全时，人员赋权与部署新技术一样重要。
Claudio Gallo，C4HCO首席安全工程师
2025年2月12日
人工智能是医疗保健安全的朋友还是敌人？
一些人认为，人工智能（AI）已经以前所未有的方式改变了医疗保健行业。从文书工作到帮助医生做出更准确的诊断，AI的应用无处不在。但像任何新技术一样，它也带来了风险。
目前，AI既是强大的防御机制，也是攻击者的助力。因此，我们必须问一个明确的问题：AI是医疗保健网络安全的朋友还是敌人？答案是两者皆有。
AI作为防御者：增强医疗保健安全
医疗系统是恶意行为者的理想目标，因为其中包含大量受保护的健康信息（PHI），这些信息分布在电子健康记录、物联网（IoT）启用的医疗设备和远程医疗平台等互联资产中。传统网络安全工具往往缺乏保护这种复杂生态系统所需的资源和功能，在数据量和攻击方法不断演变的情况下难以跟上步伐。
机器学习算法的优势在于它们可以在威胁变得严重之前发现潜在威胁。AI驱动的安全工具可以检测系统行为中的异常，例如未经授权的数据传输或可疑登录活动，从而主动防止漏洞。事实上，几家使用AI系统的医院已经成功阻止了勒索软件攻击，维持了运营完整性和患者安全。
AI在减轻行政负担和进一步遵守《健康保险可携性和责任法案》（HIPAA）及其他法规方面也发挥着关键作用。AI驱动的工具如虚拟助手和数据处理系统接管了行政工作，同时保护敏感数据。这些工具保护PHI，释放人力资源以专注于患者护理。
AI作为攻击助力者
虽然AI强化了防御，但也加速了攻击方的步伐。因此，医疗保健领域的网络威胁变得越来越复杂。生成式AI工具让攻击者可以创建几乎无法区分真伪的定制电子邮件，这些邮件具有完美的语法和格式，迅速通过传统的安全过滤器。
深度伪造（Deepfake）增加了另一层欺骗：生成超现实的音频和视频，使攻击者听起来像是高级卫生领导或其他可信的声音。这些伪造内容已被用于欺骗员工授予未经授权的访问权限、共享PHI，甚至进行欺诈性金融交易。在某些情况下，攻击者还利用深度伪造传播虚假医学信息或破坏公众信心，进一步扰乱本已复杂的威胁环境。
AI驱动的恶意软件利用机器学习实时变化，逃避传统检测，并瞄准关键系统，如物联网设备和电子健康记录。攻击者操纵诊断数据、篡改医学影像，并通过轻度安全的物联网设备进入系统，从而创建协调攻击的途径。结合AI与物联网可能会对患者安全和医疗系统信任构成比财务损失更大的威胁。
AI驱动的威胁向信息安全、IT和医疗领导者敲响了警钟。这些风险正在重塑网络安全格局。预防性防御需要先进的AI工具、员工培训和跨职能团队的合作。这反过来要求审查政策和检测系统，优先应对AI驱动的社会工程和恶意软件。要始终领先于不良行为者，需要持续的警惕、创新思维和对数据安全及患者护理的核心承诺。
平衡AI的潜力与现实实施
作为专家或高管，您面临着管理AI潜力及其引入的新风险这一关键决策。AI不是万能药；它是一种既可以为我们也可以对抗我们的工具。AI在医疗保健和安全领域的变革潜力取决于其实施方式，因此领导者必须以平衡的观点来采用这项技术。他们应该既兴奋又谨慎，充分意识到攻击者也在利用同一技术来破坏我们的系统、数据和信任。
在我的经验中，采用AI工具（如转录生成器、语法检查器或自动化笔记系统）的热情往往超过了关键的安全评估。我见过一些团队为了节省时间和资源而倡导快速实施，而忽略了风险评估，如数据存储位置、处理方式或供应商是否合规等问题。这种对便利性的急切追求会留下被攻击者利用的漏洞，尤其是在医疗保健领域，即使是微小的疏忽也可能导致严重的PHI或个人身份信息（PII）泄露。
深度伪造、自适应恶意软件和利用物联网设备的攻击都需要新的思维方式来应对这些威胁——一种从遗留防御或甚至尖端AI工具转变为将这些工具纳入扩展的主动安全框架的方法，涵盖审计、员工培训和可靠的治理。这意味着医护人员和管理人员必须有能力识别复杂的攻击、伪造视频通话或意外的数据传输，AI工具标记的异常情况。人员赋权在部署新技术方面同样重要。
推动IT、安全和临床团队之间的合作，制定针对技术漏洞和操作现实的定制策略。这意味着从系统监控到持续审查AI在机构中的演变角色，保持警惕。
保护医疗系统不仅包括保护患者的信任和福祉，还包括整个社区。这完全依赖于领导者不仅对威胁作出反应，而是采取积极措施在风险扩散前加以缓解。嵌入组织各个层面的安全性应确保关键业务的连续性和不受影响的患者护理，由医疗行业的领导者保障。
(全文结束)
