近期，随着ChatGPT的公开上线，围绕人工智能的热度再次飙升。这种自然语言聊天模型易于使用的界面使AI对公众格外友好，让人们得以亲身体验其潜力。这一体验激发了用户的想象力，也引发了从极度兴奋到恐惧与不安的复杂情绪。
但现实是，多年来AI已在众多行业取得显著进展，医疗保健领域也不例外。
将AI融入医疗保健的潜在益处数不胜数，但与任何技术一样，AI也伴随着风险，必须加以管理，才能确保这些工具的收益大于潜在成本。
AI最显著的优势之一是提升诊断速度与准确性。AI算法能够快速准确地处理海量数据，使医疗服务提供者更容易诊断和治疗疾病。例如，AI算法可以分析X光片和MRI扫描等医学影像，识别出人类医生可能遗漏的异常模式，从而推动更早、更准确的诊断，改善患者预后。
此外，AI算法还能通过提供实时数据和建议来辅助医疗工作者。例如，算法可监测患者的心率、血压等生命体征，一旦出现异常变化立即提醒医生，帮助医护人员迅速应对紧急情况，防止严重健康问题恶化。
AI还能帮助医护人员更好地管理慢性病。AI算法可长期监测患者的健康数据，并提供生活方式调整和治疗方案建议，以控制病情。这有助于改善患者结局、提高生活质量并降低医疗成本。
最后，AI还能改善医疗可及性。其算法能让医疗服务提供者触达更多患者，尤其是偏远和欠发达地区。例如，由AI驱动的远程医疗服务可提供远程会诊和诊断，使患者无需长途跋涉即可获得医疗。
然而，在众多益处之外，AI也存在必须考虑的安全与隐私风险。最大的风险之一是数据泄露。随着医疗服务提供者创建、接收、存储和传输大量敏感患者数据，他们成为网络犯罪分子的目标。恶意行为者可能且会攻击AI数据管道中的任何漏洞。
另一风险是AI算法可能面临的特殊隐私攻击，包括成员推理攻击、重建攻击和属性推理攻击。在这些攻击中，关于个人的信息（包括AI训练集中人员的身份）可能被泄露。
此外还有其他类型的独特AI攻击，如数据输入投毒和模型提取。前者中，攻击者可能向训练集注入恶意数据，从而影响模型输出；后者中，攻击者可能提取足够多的AI算法信息，以创建替代或竞争模型。
最后，AI还存在被直接用于恶意目的的风险。例如，AI算法可被用于传播宣传，或针对弱势群体实施诈骗。上文提到的ChatGPT已被用来编写极具说服力的钓鱼邮件。
为减轻这些风险，医疗服务提供者应继续采取传统措施保障患者数据的安全与隐私，包括进行风险评估以了解自身独特风险，并通过加密、多因素认证等强安全措施加以应对。此外，医疗服务提供者必须制定清晰的收集和使用患者数据的政策，确保不侵犯患者隐私。
医疗服务提供者应考虑对其使用的算法和收集的数据保持透明，这有助于降低算法偏见风险，同时确保患者了解其数据的使用方式。
最后，医疗服务提供者必须保持警惕，防范针对AI算法本身的攻击。
Jon Moore是网络安全公司Clearwater的首席风险官兼咨询服务和客户成功主管。
【全文结束】