美国食品药品监督管理局（FDA）将在本周的数字健康咨询委员会会议上讨论针对生成式AI设备的新监管框架。咨询委员会将于11月20日至21日召开会议，讨论如何在鼓励创新的同时确保这一正在重塑医疗器械行业的新兴技术的安全性。
据FDA称，生成式人工智能技术越来越多地被整合到医疗保健中，带来了机遇，同时也带来了独特的监管挑战。FDA为咨询委员会会议准备的执行摘要概述了一种涵盖产品整个生命周期（Total Product Lifecycle, TPLC）的监督方法，包括上市前评估、风险管理以及上市后监测。
什么是生成式人工智能？
生成式人工智能是一种通过模仿训练数据集中的模式来创建新数据的人工智能类型。与传统用于预测或分类的AI模型不同，生成式AI可以生成类似于其训练数据的文本、图像、音频或其他输出。
这些系统通常基于“基础模型”，具有高度的灵活性，但缺乏传统AI的透明度，这使得它们在医疗应用中的使用变得复杂。对于医疗器械而言，生成式AI可以简化临床工作流程、提高诊断准确性并协助医学培训。例如，生成式AI设备可能分析复杂的医学影像或生成合成数据用于研究和模拟。然而，生成式AI模型的适应性也带来了风险，如生成错误或误导信息的“幻觉”。
模型的复杂性，包括模型架构和生成式AI模型常见的大量数据，可能是导致这种“幻觉”的因素。因此，虽然生成式AI的一个显著优势是可以从多种不同类型的数据中生成适用于特定领域的输出，或生成适用于广泛任务的相关输出，但它也可能带来需要根据不同应用采取不同程度风险控制的潜在风险。
医疗技术的影响
生成式AI在医疗技术领域的应用范围从行政支持（如自动化文档处理）到先进的临床工具（如疾病诊断或个性化治疗计划）。据FDA称，生成式AI有潜力提高医疗保健效率和可及性，特别是在服务不足的地区。
然而，FDA的总结强调了几个关注点。生成式AI模型通常依赖于过于庞大或复杂的开发人员无法完全分析的数据集，这引发了关于数据偏差、可重复性和伦理考虑的问题。由于生成式AI不断变化，传统的监管方法难以跟上。用于生成式AI的基础模型可能并非专门为医疗应用设计，这为确保其安全性和可靠性增加了额外的障碍。
FDA提出了一种针对生成式AI设备的TPLC监管框架。这一生命周期方法包括：
- 上市前评估：制造商必须提供详细的设备设计、培训方法和数据来源描述。FDA要求对使用的基础模型进行透明说明，特别是当这些模型是“解锁”或能够持续更新时。
- 风险管理：可能需要新的控制措施来缓解与生成式AI开放式输出相关的风险，包括治理策略和现实世界反馈机制。
- 上市后监测：对设备性能的持续评估至关重要，尤其是对于随时间适应的模型。这可能包括跟踪准确性、检测偏差和解决数据中的区域差异。
(全文结束)
