尽管美国食品药品监督管理局（FDA）目前尚未针对含有人工智能（AI）的医疗设备制定独特的审批流程，但技术环境正在迅速变化，要求制造商保持警觉和响应能力。
提出对预定变更控制计划的监管规定
2024年8月，FDA监管人员提议对预定变更控制计划（PCCP）进行监管，并指出任何相关决定将影响AI设备。这一消息是在2021年之前的工作基础上提出的，当时FDA官员与加拿大和英国的监管机构合作，制定了10项指导原则，以塑造机器学习技术的发展。这些原则关注的是安全性、有效性和现实需求的应用。他们认为这些指南可以改进某些设备的性能。
其中五个原则涉及PCCP文档及其适用设备。一个特别适用于机器学习模型的原则要求制造商监控其已部署模型的性能，并尽量减少与重新训练机器学习算法相关的风险。2021年的指南还规定，对含有人工智能的医疗设备的重大更改可能需要监管审查，包括延长上市前审查过程。
参与制定指南的人员认识到，对AI医疗设备的深入审查并不总是能跟上产品开发的速度。然而，当FDA监管人员在2024年8月发布草案指导意见时，他们指出了未来AI设备的PCCP可能需要的内容。
他们的建议指出，设备的PCCP应详细说明计划的修改，包括制造商的开发、验证和实施方法。此外，文件应包括制造商对其变更可能对产品产生影响的评估。
FDA当局预计这些建议将影响受该组织上市前批准、De Novo和510(k)途径约束的设备。该机构接受对拟议变更的意见至2024年11月20日。
截至2024年12月初，尚无更多关于潜在影响的具体细节。然而，设备制造商应继续关注这些发展，并计划如何应对可能的结果。
确保医疗设备遵循网络安全最佳实践
FDA开展了许多活动，以确保医疗设备免受过多的网络安全风险。这对于防止恶意行为者进入网络或篡改设备至关重要。
一家科学和技术公司开发了一种基于机器学习的创新产品，能够在24小时内预测肾衰竭的发生率，准确率达到96%，展示了医务人员使用AI设备改善患者结果的潜力。由于该产品可以集成到电子健康记录（EHR）系统中，开发者可能不得不实施许多网络安全保护措施。
FDA还发布了关于制造商如何设计和维护产品以确保网络安全的指南。该机构鼓励制造商监测并披露其设备中的漏洞，并描述拟议的解决方案。当监管人员认为识别出的问题构成风险时，他们可能会发布一份安全通信文件，其中包含相关信息和建议的行动，供患者、提供者和制造商参考。
制造商可以通过进行全面的产品审计来查找潜在问题，从而减少未来问题的可能性。然后，他们可以调查如何最小化或消除这些问题，使产品更安全，以供患者和提供者使用。
建立AI安全程序
2023年10月，拜登-哈里斯政府发布了一项与AI安全相关的行政命令。该命令具有广泛的目标，但其中一些部分与医疗设备有关。FDA隶属于卫生与公众服务部（HHS）。该命令指出，HHS将建立一个报告和纠正与医疗保健中的人工智能相关的危害和不安全做法的项目。
一些研究人员认为现在是创建这样一个项目的最佳时机。在一个案例中，一个团队从FDA的制造商和用户设施设备经验（MAUDE）数据库中提取了记录，该数据库包含与医疗设备相关的强制性和自愿报告。该小组试图确定与AI产品相关的报告数量。
他们找到了并分析了429份报告，发现超过25%（即108条记录）可能与AI医疗产品有关。他们通过搜索描述AI医疗技术时常用的特定短语和关键词得出结论。然而，在34.5%的情况下，报告的语言不足以将事件与AI产品联系起来。
研究人员表示，仅靠患者安全报告无法识别AI产品的安全问题或确定AI是否导致了错误。他们澄清说，原因之一是提交这些报告的人可能不了解AI在产品后台的工作原理，因此不知道何时或是否它会引发问题。
用户可能会对AI医疗设备改善其生活的潜力感到兴奋，但可能不了解潜在的缺点，这种情绪也存在于没有AI功能的产品中。在一个案例中，一名女性一年内从她的智能手表中提取了916次心脏读数。不幸的是，她过度警惕导致被诊断为新的健康焦虑症。
需要更多的临床验证数据
除了认为FDA当前的安全报告程序未能有效标记AI风险的研究人员外，一些人还认为获得FDA批准的AI产品应该达到足够的临床验证数据标准。
当一个研究小组分析了500多个FDA授权的AI医疗设备时，他们发现许多设备缺乏临床验证数据。他们的调查显示，大约一半的产品存在这种情况。
参与这项研究的一位研究人员强调，虽然AI设备制造商可以通过获得FDA授权来提升可信度，但这并不意味着所有产品都具备由实际患者数据支持的必要临床验证。
该研究小组还审查了521个FDA授权的AI医疗设备，发现其中226个没有任何临床验证数据。在某些情况下，设备依赖于计算机生成的图像而非真实患者的图像，这并未达到临床验证标准。
此外，研究人员表示，FDA当前关于临床验证的草案指南并未明确区分制造商可以进行的三种临床验证研究类型。他们建议监管机构提供更多清晰度，并随后与该机构的主任会面，分享他们的发现。
目前还无法确定FDA是否会根据这项研究更新其文件和实践。然而，这些结论和其他提到的观点表明，FDA需要做更多工作，以确保AI医疗设备对所有依赖它们的人来说都是安全有效的。
跟踪发展情况
人工智能在医疗设备中的应用越来越突出，但仍相对较新。FDA监管人员必须继续监测所有相关方面，包括这里和其他地方指出的不足之处。
AI推动了许多行业进入新领域。随着它继续颠覆医疗保健行业，监管人员必须避免优先考虑创新而牺牲患者安全。医疗设备制造商必须密切关注新发展并做好相应规划，以使其产品获得FDA批准并赢得用户信任。
(全文结束)
