尽管美国食品药品监督管理局（FDA）目前尚未针对含有人工智能（AI）的医疗设备设立独特的审批流程，但技术格局正在迅速演变，要求制造商保持警觉和响应能力。
提议对预定变更控制计划进行监管
2024年8月，FDA监管机构提议对预定变更控制计划（PCCP）进行监管，并指出任何相关决策都将影响AI设备。这些建议源于2021年的努力，当时FDA官员与加拿大和英国的监管机构合作，制定了10项指导原则，以塑造机器学习技术的发展。这些原则重点关注安全性、有效性和实际应用需求，并认为这些指南可以改善某些设备的性能。
制定指导原则的人员还认识到，对AI医疗设备的深入审查并不总是与产品开发的快速步伐相匹配。然而，当FDA监管机构在2024年8月发布草案指导意见时，他们指出了未来PCCP对AI设备的要求。建议指出，设备的PCCP应详细说明计划的修改，包括制造商的开发、验证和实施方法。此外，文件还应包括制造商对其变更如何影响产品的评估。FDA当局预计，这些建议将影响受该组织上市前批准、De Novo和510(k)途径约束的设备。该机构接受有关拟议变更的意见，截止日期为2024年11月20日。截至2024年12月初，尚未有更多具体细节公布，但设备制造商应密切关注这些发展，并计划如何应对可能的结果。
确保医疗设备遵循网络安全最佳实践
FDA开展了许多活动，以确保医疗设备免受过多的网络安全风险。这尤其重要，因为恶意方有许多潜在的入侵途径，一旦进入网络或篡改设备，可能会造成严重损害。一家科技公司开发了一种基于机器学习的创新产品，能够在24小时内以96%的准确率预测肾功能衰竭的发生，展示了医务人员使用AI设备改善患者结果的潜力。由于该产品可以集成到电子健康记录（EHR）系统中，开发者可能不得不实施许多网络安全保护措施。
FDA还发布了关于制造商如何设计和维护产品以确保网络安全的指导。该机构鼓励制造商监测和披露其设备中的漏洞，并描述拟议的解决方案。当监管机构认为已识别的问题构成风险时，他们可能会发布一份安全通信文件，其中包含相关详情和建议的患者、提供者和制造商采取的行动。设备制造商可以通过进行全面的产品审计来发现潜在问题，从而减少未来问题的可能性。然后，他们可以调查如何最小化或消除这些问题，使产品更安全，供患者和提供者使用。
建立AI安全计划
2023年10月，拜登-哈里斯政府发布了一项与AI安全相关的行政命令。该命令目标广泛，但其中一些内容与医疗设备相关。FDA隶属于卫生与公众服务部（HHS）。该命令指出，HHS将建立一个报告和纠正与医疗保健中的人工智能相关的危害和不安全做法的计划。一些研究人员主张现在正是创建这样一个计划的最佳时机。一个团队从FDA的制造商和用户设施设备经验（MAUDE）数据库中提取了记录，该数据库包含与医疗设备相关的强制性和自愿报告。该小组试图确定与AI产品相关的报告数量。
他们找到了并分析了429份报告，确定其中超过25%，即108份，可能与AI医疗产品相关。他们通过搜索描述AI医疗技术时常用的具体短语和关键词得出结论。然而，在34.5%的情况下，报告的语言不足以将其与AI产品关联起来。研究人员指出，患者安全报告本身不足以识别AI产品的安全问题或AI是否导致了错误。他们澄清说，原因之一是提交这些报告的人可能不了解AI在产品背后的运作方式，因此不知道它何时或是否导致了问题。
用户可能会对AI医疗设备如何改善他们的生活感到兴奋，但可能不了解潜在的缺点，这种情绪也存在于没有AI功能的产品中。在一个案例中，一名女性一年内从她的智能手表上收集了916次心率读数，不幸的是，她过度的关注导致被诊断出患有新的健康焦虑症。
要求更多的临床验证数据
除了认为FDA当前的安全报告程序无法有效标记AI风险的研究人员外，一些人认为获得FDA批准的AI产品应满足足够的临床验证数据标准。当一组研究人员分析了500多个FDA授权的AI医疗设备时，他们发现许多设备缺乏临床验证数据。他们的调查显示，大约一半的产品存在这种情况。其中一位研究人员强调，虽然AI设备制造商可以通过获得FDA授权来提升可信度，但这并不意味着所有产品都具备由实际患者数据支持的必要临床验证。
该研究小组还审查了521个FDA授权的AI医疗设备，发现其中226个没有临床验证数据。在某些情况下，这些设备依赖计算机生成的图像而不是真实患者的图像，这并未达到临床验证标准。此外，研究人员表示，FDA关于临床验证的现行草案指南未能清楚区分制造商可以进行的三种类型的临床验证研究。他们建议监管机构提供更多明确性，并随后与该机构的主管会面，分享他们的发现。目前尚不清楚FDA是否会根据这项研究更新其文档和实践。然而，这些结论与其他早先提到的结论一样，表明FDA需要做更多工作，以确保AI医疗设备对所有依赖它们的人都是安全有效的。
跟踪发展的局势
人工智能在医疗设备中的应用越来越突出，但仍相对较新。FDA监管机构必须继续监控所有相关方面，包括这里和其他地方提到的不足之处。随着AI继续颠覆医疗行业，监管机构必须在优先考虑创新的同时，不能牺牲患者安全。医疗设备制造商必须关注新发展，并相应地规划，以使其产品获得FDA批准并赢得用户信任。
(全文结束)
