美国食品药品监督管理局（FDA）最近发布了两项关于医疗器械、药物和生物制品中使用人工智能（AI）的草案指南。这些指南强调了在整个产品生命周期（TPLC）中使用AI进行医疗设备的风险评估、数据管理、透明度、验证和网络安全的重要性，以及在药物和生物制品的监管决策中使用AI的重要性。早期参与对于制造商和申办者来说至关重要，尤其是在准备上市授权申请时。
FDA发布的这两项草案指南文件分别为《人工智能赋能设备软件功能：生命周期管理和市场提交建议》和《考虑使用人工智能支持药物和生物制品的监管决策》，旨在为医疗和制药领域的AI应用提供指导。这些指南反映了FDA对这一快速发展的技术的不断演变的态度，并为制造商和申办者提供了开发、验证和维护AI系统的框架。这些建议旨在确保AI应用程序的安全性、有效性和质量，并强调建立强大的AI政策以满足FDA的期望。
AI在医疗保健中的作用
AI正在越来越多地改变医疗保健，在医疗器械和药物开发中找到广泛的应用。在医疗器械方面，AI模型用于驱动工具，如分析医学图像以检测异常的软件、提供可操作见解的可穿戴健康监测器以及增强手术精度的机器人系统。在药物开发中，AI有助于预测药物反应或不良反应，整合真实世界的数据以更好地理解疾病，并优化制造条件。这些例子突显了AI在提升医疗器械功能和药物安全性和有效性方面的多功能性。
医疗器械中AI的关键原则
TPLC框架。FDA针对AI赋能医疗器械的草案指南强调了总产品生命周期（TPLC）方法。该框架确保AI系统在时间上保持安全和有效。FDA的指南强调了透明度和偏差控制等核心原则，以及基于风险的方法的重要性。指南强调在开发、验证、FDA提交和上市后管理过程中，以及与FDA的早期沟通中，仔细的数据管理、记录、标签和网络安全过程对于成功的TPLC至关重要。
透明度。FDA还视透明度为关键。建议指出，设备制造商应确保其关于AI功能的关键信息对用户可访问且易于理解。指南还包括关于透明度设计方法的建议，例如通过“模型卡片”形式传达有关模型和AI赋能设备的关键信息。透明度也强调了提高AI赋能医疗器械可用性的重要性。
偏差控制。FDA的偏差控制关注点在于最小化训练数据中的人口统计偏差，以确保设备对所有相关人口群体都同样受益，并且设备在其预期用途中是安全有效的，避免错误结果。指南强调在整个AI赋能设备的TPLC中识别和解决偏差的策略，包括收集和记录证据。
药物开发中的AI：模型可信度、背景、基于风险的方法和透明度
对于药物和生物制品的申办者，FDA的指南强调了在药物和生物制品的监管决策中使用AI的风险评估框架。这包括定义AI模型的具体角色，即AI模型将解决的具体问题、决策或关注点及其使用背景，评估与AI模型相关的潜在风险，考虑模型影响和决策后果，并制定可信度评估计划以确保模型输出的可信度。
与AI赋能设备类似，数据、模型架构和方法论的记录，指向可信度的证据以及定义模型限制的证据，对于成功的可信度评估计划至关重要，并使FDA能够在提交中确定安全性和有效性。FDA建议采用生命周期管理实践，如持续监控和定期重新训练，以确保AI模型在其监管背景下保持适用。FDA还建议与FDA进行早期沟通，以讨论模型风险和可信度评估活动。
建立有效的AI政策
对于AI赋能医疗器械
开发AI赋能医疗器械的制造商可以从涵盖风险评估、数据管理、透明度、验证和网络安全的全面AI政策中受益。风险评估应识别并减轻整个生命周期中的设备相关风险，包括由不完整或模糊信息引起的问题。数据管理程序应确保数据的质量、多样性和代表性，并采取措施解决训练数据集中的偏差问题。
透明度策略包括设计有效的用户界面以传达设备信息，并创建详细的标签以告知用户模型性能和限制。验证过程应严格确认设备的安全性和有效性，结合FDA《人体因素指南》中概述的人体因素和可用性评估。网络安全措施应解决设备的完整性、机密性、授权、可用性和安全更新，以避免AI网络安全风险，如数据中毒、模型窃取、数据泄露和性能漂移。FDA指南建议在市场授权提交中详细描述制造商如何实现这些标准。这些提交要求推动了对用于训练AI模型的所有数据的记录需求，包括数据来源、使用方式、AI模型架构、测试数据、验证期间进行的评估以及与安全性和有效性相关的任何观察结果等细节。
对于药物开发中的AI
利用AI进行监管决策的药物和生物制品申办者应围绕建立可信度、透明度和持续改进构建其政策，采用基于风险的方法。为了创建稳健的可信度评估框架，申办者应在AI政策中建立记录政策，以确保AI模型的角色被明确界定，包括FDA推荐的具体细节，收集数据和可靠性及数据相关性的证据，并评估和记录模型性能与预定义指标的对比。记录应清楚描述模型、其架构和开发过程，详细说明用于训练和调整的数据集和子集，包括数据集的来源、是否集中以及如何注释；记录模型开发和数据选择的依据，记录模型校准，并描述所有计算机软件的质量保证和控制程序。更具体地说，记录应证明数据集符合可靠性和相关性标准，并描述防止数据过拟合或欠拟合的技术。政策应包括生命周期内的模型监控和适应管理计划，确保模型持续适用于监管用途，并制定记录偏离计划的程序。
申办者和制造商应采纳并实施全面的AI政策，因为FDA的建议不仅影响监管流程，还涉及知识产权（IP）问题。例如，向FDA提交和批准过程中对AI模型、数据和其他细节的早期披露可能包括商业秘密、发明过程或需要向美国专利商标局（USPTO）披露的信息，以履行诚实和善意的义务。因此，AI政策的开发和实施应确保在遵守监管期望的同时保护IP。记录政策也应考虑IP因素，例如保存人类贡献的事实证据，因为只有当人类做出“显著”贡献时，AI辅助发明才可获得专利。在公司不同职能部门广泛采用的AI政策将确保在开发过程中和提交时同时考虑监管和IP因素，并促进向FDA、USPTO和类似外国机构陈述的一致性。
与FDA的早期沟通是使AI实施与监管期望一致的宝贵步骤。除了记录任务外，申办者应主动与FDA讨论AI模型风险和可信度评估活动，以简化审批过程并尽早解决潜在问题。
共享的AI应用政策基础
无论是AI赋能设备的制造商还是使用AI工具进行药物和生物制品监管决策的申办者，都可以从其AI政策中共享的基础元素中受益。这些元素包括根据应用定制基于风险的方法，确保数据质量和适用性，并通过全面记录强调透明度。持续改进实践，包括定期性能监控和更新，有助于维持AI系统的可靠性和安全性，而详细的AI流程和决策记录有助于确保法规遵从性并支持与利益相关者的透明沟通。
应对FDA期望
FDA关于AI赋能医疗器械和AI在监管决策中的草案指南突显了在医疗保健中负责任地整合AI的重要性。制造商和申办者有机会与这些框架保持一致，从而增强对AI技术的信任，推动创新，并为成功的市场授权提交做好准备。
通过建立涵盖这些关键考虑因素的强大AI政策，利益相关者可以确保合规性，保障公共健康，巩固公众信任，简化商业谈判，并推动医疗技术和药物开发的变革性进步。
对指南文件的意见提交截止日期为2025年4月7日。
(全文结束)
