《美国医学会杂志》（JAMA）发表的一篇特别通讯探讨了美国食品药品监督管理局（FDA）对医疗保健领域人工智能（AI）的监管，并探讨了AI在临床研究、医疗产品开发和患者护理中的潜力，同时强调了在适应AI在生物医学和医疗保健中独特挑战时需要解决的关键领域。
背景
AI技术的进步在生物医学和医疗保健领域具有巨大的变革潜力。人们对AI的期望往往超过了对以前的医疗技术（如远程医疗、数字健康工具和电子健康记录）的期望。虽然这些技术都是突破性的，但AI工具在数据分析、诊断和个性化护理方面的能力是革命性的。然而，AI在医学和医疗保健中的应用也引发了关于监督和监管的重大关切。FDA长期以来一直在制定将AI纳入医疗产品开发和医疗保健的法规。然而，AI技术的动态性质带来了一些独特的监管挑战，特别是在有效性、安全性、上市后性能和责任方面。此外，AI技术快速发展的步伐要求监管框架能够迅速适应。
FDA对医疗AI的监管
根据该综述，FDA对AI医疗产品的监管始于1995年，当时批准了PAPNET，这是一种病理学家可以用于宫颈癌诊断的AI工具。尽管PAPNET由于成本高昂并未广泛采用，但自那以后，FDA已经批准了近1000种基于AI的医疗设备和产品，主要应用于放射学和心脏病学。AI也在药物开发中广泛应用，包括药物发现、临床试验和剂量优化。此外，AI在肿瘤学领域的应用越来越普遍，而将其应用于精神健康领域也引起了越来越多的兴趣，数字技术在这一领域具有巨大的潜力。提交给FDA的用于药物开发的AI应用数量在过去一年中增加了十倍，鉴于AI应用范围广泛且复杂，FDA还调整了监管框架，使其基于风险，同时考虑到AI在真实世界临床环境中的演变。2021年，FDA引入了一项五点行动计划，旨在促进创新，同时确保这些产品的有效性和安全性。该行动计划也符合国会的指导，鼓励FDA创建灵活的法规，允许开发者在不寻求持续和连续批准的情况下更新AI产品。然而，文章指出，这些法规必须涵盖AI产品在整个生命周期中的管理，特别是通过在临床环境中部署后的持续性能监控。FDA的医疗器械中心还确定了AI开发的四个重点领域，包括增强公共卫生安全、支持监管创新、推广最佳实践和协调标准，以及推进AI性能评估研究。
FDA对AI监管的关键概念
FDA旨在通过使用美国法律和全球标准作为基础来塑造AI医疗产品的监管。与国际医疗器械监管机构论坛等机构的合作使FDA能够在全球范围内推动AI标准的协调，包括管理AI在药物开发中的作用和通过国际合作现代化临床试验。随着AI技术的快速发展，FDA面临的主要挑战之一是有效处理大量AI申请，同时确保创新不受阻碍且安全不被妥协。此外，对AI系统的持续上市后监控至关重要，以确保它们在多样且不断变化的临床环境中按预期运行。这需要一个灵活且基于科学的监管框架，例如软件预认证试点计划，允许对AI产品进行持续评估。基于风险的方法来监管AI医疗设备还允许对广泛的AI模型采取灵活的方法。例如，用于行政功能的简单AI模型受到较少的监管，而嵌入心脏除颤器中的复杂AI模型则受到更严格的监管。审查者提供的另一个例子是用于检测败血症的AI工具——Sepsis ImmunoScore，该工具被归类为II类设备，需要特殊的安全措施，以应对潜在的偏见或算法故障风险。综述强调，需要专门的监管工具来评估日益增多的AI模型，包括生成式AI和大型语言模型。这尤其重要，因为不可预测的输出（如错误诊断）在临床工作流程中部署前后都需要彻底评估。
结论
总之，综述指出，灵活的监管方法和跨行业、国际组织和政府的协调努力，加上FDA的严格监管，对于跟上AI技术在医学中的快速发展并确保AI工具的有效性和安全性至关重要。作者认为，对AI工具整个生命周期的严格关注，特别是上市后的监控，对于确保它们在临床实践中继续安全有效地运行至关重要。他们认为，应以患者的健康结果而非财务优化为导向，来指导AI在医疗保健中的整合。他们还警告说，平衡创新与患者护理必须始终是优先事项，以防止AI主要受财务激励驱动。
(全文结束)
