美国食品药品监督管理局（FDA）最近发布了两份草案指南文件，讨论了以下两个方面：（1）使用人工智能（AI）生成支持药物或生物制品安全性、有效性或质量监管决策的信息；（2）开发和营销安全有效的AI驱动设备。每份草案指南文件提供了FDA当前对于应对AI应用独特挑战的看法，并为申办者在其上市前和上市后的AI使用及其与机构的互动中提供了具体期望。
1. 药物与生物制品指南：《考虑使用人工智能支持药物和生物制品的监管决策》
FDA已经见证了AI在生成支持药物安全性、有效性及质量监管申报的数据和信息方面的增长。这些用途包括临床药代动力学的预测建模、开发临床试验终点、评估结果以及促进选择制造条件等。然而，这些用途面临的独特挑战包括：由于训练数据集的质量、大小和代表性差异导致的偏差和可靠性问题；AI模型在开发和决策过程中的黑箱性质；难以确定模型输出的准确性；以及数据漂移和模型性能随时间或环境变化的风险。所有这些因素都可能影响申办者提供给FDA的数据的可靠性和相关性。
为了解决这些问题，FDA提出了一种基于风险的可信度评估框架，包括一个七步流程，以建立和评估特定用途的AI模型的可信度。步骤1和2涉及定义用于解决特定问题的AI模型的具体角色和范围。第3步，申办者评估模型风险（即模型影响和决策后果的组合）。步骤4到6要求制定“可信度评估计划”，以建立AI模型输出的可信度，执行该计划并在“可信度评估报告”中记录结果。最后，步骤7回顾以确定AI模型是否适合其特定用途。如果申办者或FDA认为模型的可信度不足以应对模型风险，则提供了具体的处理方法。此外，考虑到数据漂移和其他批准后AI模型的变化，FDA强调在整个产品生命周期内保持AI模型输出可信度的重要性。
为了说明如何应用这一框架，指南提供了两个假设示例：（a）临床开发和（b）商业制造。临床开发的假设示例涉及一个AI模型，该模型根据患者的不良反应风险将其分为住院和门诊队列。商业制造示例涉及一个基于AI的视觉分析系统，该系统自动评估药瓶的填充量，而填充量是药瓶放行的关键质量属性。
指南鼓励申办者使用此框架与FDA尽早接触，并设想在评估AI模型风险（第3步）和申办者的可信度评估计划的充分性（第4步）方面进行互动反馈。为了促进机构与申办者之间的合作，指南确定了申办者可以参与的各种FDA项目（例如，C3TI、CID、ETP、CATT），具体取决于申办者如何使用其AI模型。
FDA邀请公众在2025年4月7日前对这份草案指南发表评论。
2. 医疗器械指南：《人工智能驱动设备软件功能：生命周期管理和营销提交建议》
在第二份草案指南文件中，FDA解释了在具有AI驱动设备软件功能的设备的营销提交中应包含哪些文件和信息。该指南符合FDA的医疗器械审查和监测的“总产品生命周期（TPLC）”方法，并包括FDA关于应对AI驱动设备TPLC中的透明度和偏见问题的当前看法。
指南解释了申办者应在营销提交中描述其设备的AI方面，并指出了AI驱动设备的标签中必须披露的内容。对于营销提交和标签，FDA建议申办者提供有关其设备用途、输入、输出、架构、开发、性能、安装和维护等方面的详细信息。
FDA还就风险评估、数据管理和性能验证等方面提供了建议和理由。为了帮助FDA了解申办者是否能够识别和控制风险（例如，误解、误用或不可用的信息），FDA建议申办者进行全面的风险评估，并提交由风险评估计划、风险评估和风险管理报告组成的风险管理文件。FDA还希望获得数据管理的明确解释，以了解AI驱动设备是如何开发和验证的。对于提交材料，FDA鼓励申办者提供有关数据收集、开发和测试数据独立性、参考标准和代表性的信息。此外，FDA要求进行验证测试，以表征模型性能与其预期用途的关系。鉴于AI模型可能会随着时间变化，从而对患者构成风险，FDA还建议进行主动设备性能监控，并在某些上市前提交中包括“性能监控计划”。
FDA的指南强调了AI驱动设备透明度的重要性，因为它们“高度依赖数据，并结合了表现出一定程度不透明性的算法”。为了增加透明度，FDA的指南呼吁申办者提供“公共提交摘要”，描述设备及其支持监管决策的信息。申办者的提交应指出AI用于设备，并描述其使用方式、模型类别及其限制、开发和验证数据集、预测的统计置信水平以及模型将如何更新和维护。
FDA邀请公众在2025年4月7日前对这份草案指南发表评论，并将于2025年2月18日举办网络研讨会，专门讨论医疗器械的这份草案指南。
FDA的指南文件为申办者提供了直接了解FDA的优先事项和机构在快速发展的AI领域的具体期望和担忧的机会。有意实施AI解决方案以生成药物或生物制品安全性、有效性或质量信息的申办者，在设计和培训AI模型时应尽早考虑FDA的可信度评估框架。寻求含有AI组件的医疗器械批准的申办者应仔细评估FDA的要求，并确认他们能够在产品的预期寿命期间充分应对FDA的关注和要求。Sterne Kessler建议公司内部的AI专家和法律顾问尽早互动，以确保申办者满足所有FDA的要求，使产品顺利推向市场。
(全文结束)
