医疗保健领域的提示注入危机：当人工智能成为对抗患者的武器
提示注入——也被称为提示黑客攻击——代表了医疗保健组织再也不能忽视的人工智能系统中的一个基本安全漏洞。与针对基础设施的传统网络攻击不同，提示注入攻击通过精心设计的输入来操纵人工智能系统，使人工智能本身成为无意的帮凶。
2025年2月，研究人员在《自然通讯》上发表了突破性的研究结果，这些发现震惊了医疗保健人工智能界。他们对肿瘤学中使用的视觉-语言人工智能模型的研究表明，包括Claude-3 Opus、Claude-3.5 Sonnet、GPT-4o和Reka Core在内的所有主要人工智能系统都可能通过提示注入攻击而被攻破。
其影响令人震惊：
医学影像操控：研究人员展示了嵌入医学影像数据中的亚视觉提示可能导致人工智能系统提供有害的输出，将癌症检测结果从准确的诊断变为潜在致命的误诊。这些攻击对人类观察者来说几乎是看不见的，因此特别阴险。
诊断腐败：研究表明，分析组织学、内窥镜检查、CT扫描、MRI图像、超声波和医学摄影的人工智能系统都可以被操纵以提供不正确的诊断信息。在一项测试中，恶性肿瘤被一致误认为是良性组织。
多向量攻击：医疗保健人工智能系统面临着独特的漏洞，因为患者数据通常来自外部来源——外部放射科医生、成像中心和医疗设备制造商——这为恶意提示创造了多个入口点。但威胁远不止于成像。处理从患者症状报告到医疗设备故障排除的一切事务的医疗保健语音人工智能系统面临着更复杂的攻击场景：
患者沟通受损：帮助患者理解医疗设备警报或提供临床指导的语音人工智能系统可能会被操纵给出危险的建议，可能导致治疗延误或不当的自我护理决策。
医疗设备集成攻击：随着医疗保健组织将人工智能与起搏器、除颤器和胰岛素泵等医疗设备集成，提示注入攻击可能干扰设备监控和患者安全协议。
紧急响应操纵：在处理紧急心血管呼叫或紧急医疗情况时，医疗保健联络中心可能会在其最关键时刻看到其人工智能系统遭到破坏，而此时准确的信息可能意味着生死之差。
OWASP大型语言模型应用十大风险将提示注入列为第一大安全风险，但在医疗保健领域，其风险呈指数级增加。受破坏的金融人工智能可能导致金钱损失；而受破坏的医疗保健人工智能可能导致患者受伤或死亡。
(全文结束)
