上周，美国食品药品监督管理局（FDA）发布了两份重要的草案指导文件，涉及在医疗设备和药物及生物制品开发中使用人工智能（AI）。虽然这些文件仍处于草案阶段，但它们提供了FDA如何评估和考虑AI技术支持的技术的最详细操作见解，特别是在透明度、偏见缓解以及使用预定变更控制计划（PCCP）应对数据漂移等挑战方面的考量。这些指导文件对使用AI的药品、生物制品和设备开发商、制造商、临床团队、监管专业人士和研究人员非常有用。
AI支持的医疗设备
第一份草案指导文件，《人工智能支持的设备软件功能：生命周期管理和市场提交建议》，阐述了FDA打算如何监管集成AI的设备，首先解决了哪些设备被视为“AI支持的设备”这一门槛问题。FDA详细说明了其期望赞助商在AI支持的医疗设备的市场营销申请中如何处理AI，包括510(k)上市前提交、De Novo分类请求和上市前批准（PMA）申请。该指导不仅解释了提交的哪些部分应涉及AI，还说明了为何应包含这些信息，以及哪些因素与FDA对技术的评估相关。关键建议包括：
- 设备描述：赞助商应包括详细的陈述，说明AI如何用于实现设备预期目的。
- 用户界面和标签：提交应包括用户界面的描述和提供的标签信息。
- 风险评估：风险管理应考虑整个产品生命周期（TPLC）中的所有用户，以及误解、误用或不可用信息的风险。
- 数据管理：提交应指定用于训练AI模型的数据，以确保其对预期使用人群具有普遍适用性。FDA建议使用无偏见和有代表性的模型进行数据训练，考虑来源偏差、过度表示和其他混淆因素。
- 模型验证：用户必须能够理解和交互设备，以确保其按预期工作。
FDA还建议，主动性能监控可以作为应对数据漂移的适当风险控制措施。对于性能验证，制造商应使用具有代表性的验证数据集，并确保设备输出与临床参考标准和模型开发者之间的屏蔽，以避免研究设计中的偏差。FDA澄清，如果AI支持的设备不引入不同的安全性和有效性问题，则可以被认为与非AI支持的设备实质上等同。最后，FDA建议在公共提交摘要中应包含哪些内容，以更透明地描述设备中AI的目的和功能，包括推荐的（但不是必需的）模板“模型卡”。
在药物和生物制品开发中使用AI
第二份草案指导文件，《在药物和生物制品的监管决策中使用人工智能的考虑事项》，概述了FDA在药物和生物制品开发中使用AI的方法。该指导文件仅限于使用AI模型来支持FDA对产品安全性、有效性和质量的评估，不提供有关AI支持的药物开发工具的任何指导。FDA引入了一个基于风险的框架，用于评估AI模型的可信度，该框架围绕以使用背景（COU）为中心的七步流程构建。
FDA敦促提交者制定详细的可信度评估计划，以证明AI的适用性，减少延迟，降低风险，并确保合规性。这些计划应包括针对AI模型的COU量身定制的性能标准，并在不同试验或医疗系统中独立数据上进行测试。该指导还建议赞助商如何评估AI模型的最终充分性，包括如果模型未能充分建立可能的结果。
进一步考虑的问题
尽管非常详细，这些指导文件仍留下了一些未解决的问题。例如，一个已获得许可的AI支持的设备在适应新数据输入后何时需要提交后续510(k)仍是一个悬而未决的问题。此外，AI模型对其COU的适用性取决于可信度评估报告，但FDA对确定药品和生物制品适用性的标准提供的澄清相对有限。最后，这两份指导文件在AI训练数据和上市后性能监控的透明度方面也存在一些模糊之处。最近的一份国会研究服务报告强调了结构化、基于风险的监督的重要性，以平衡创新与患者安全。
下一步行动
对于这两份指导文件，FDA要求公众在2025年4月7日前提交评论。此外，该机构将于2025年2月18日举行网络研讨会，讨论AI支持的设备草案指导文件。
(全文结束)
