新成立的FDA顾问委员会在为期两天的会议中，就如何处理生成式人工智能（AI）医疗设备的监管问题提出了几项建议。数字健康咨询委员会（DHAC）首次召开会议，旨在为FDA提供有关生成式AI医疗设备的开发、评估、实施和持续监测的一系列问题的指导。
在开幕式上，FDA专员罗伯特·卡利夫（Robert Califf）博士表示，DHAC将就所有数字健康技术的利弊提供重要建议和建议，包括生成式AI医疗设备。“我们成立了这个委员会，因为我们看到了数字健康技术的巨大潜力，可以帮助解决我们今天面临的重大医疗保健问题，我们需要这些技术以负责任的方式开发、部署和使用，以患者和消费者的最佳利益为出发点，”卡利夫说，并补充道，“人工智能正在改变我们对健康和医疗保健的看法，这是最令人兴奋和有前途的科学领域之一，因为它旨在超越界限。”
在会前发布的执行摘要中，FDA工作人员要求委员会考虑规划和设计、数据收集和管理、模型构建和调优、验证和验证、模型部署、操作和监控以及真实世界性能评估。委员会主席阿米·巴特（Ami Bhatt）博士，美国心脏病学会首席创新官表示，讨论产生了大量关于FDA应如何处理开发过程各个阶段的考虑和想法。“有很多目光、很多意见、许多公司、研究实验室、我们的朋友，最重要的是，对生成式AI前景充满希望的患者，这就是为什么我们认为我们的任务是建立一个有护栏的增长基础设施，”她说。“这并不是终点，而是持续变革过程的开始。”
虽然委员会没有对具体建议进行投票，但巴特指出，他们能够为生成式AI医疗设备应如何由FDA处理制定“可操作的框架”。根据FDA为会议列出的讨论问题，委员会成员提出了基于三个不同领域的框架：上市前性能评估、风险管理以及上市后性能监测。
在上市前性能评估方面，委员会成员表示，该机构应开发定制的多维框架，以评估AI模型的整体正确性、基于用户输入或提示的预期生成式AI输出的有效性，以及识别生成式AI设备引入的潜在危害和风险的能力。在这方面，委员会指出，FDA应考虑开发一套广泛接受的指标和方法，用于评估此类设备。他们还表示，该机构应制定生成式AI术语和概念的标准定义，特别是对于关键限制，如分布外数据、数据漂移和幻觉。值得注意的是，会议期间多次出现因缺乏生成式AI相关术语的统一定义而带来的挑战。
委员会还指出了缺乏足够的研究设计来测试这些设备的临床用途，并敦促FDA探索替代研究方法的潜在使用，例如合成对照试验，以改进这些设备的比较效能评估。对于上市后性能评估，委员会表示，该机构应考虑在设备被临床医生或消费者广泛采用后扩大评估的方法。他们还强调了自动化这些监控和评估过程的必要性，以避免在更大规模使用这些设备后进行耗时且昂贵的人工审查。
此外，他们建议FDA应考虑建立新的框架，以了解生成式AI设备在市场上对社会的影响。为此，委员会建议该机构考虑建立一个集中式数据存储库和报告机制，用于跟踪这些设备造成的错误和危害，并指出这些工具还可以用于在各种人群和设置中持续监控设备性能。委员会还强调，该机构必须考虑到这些设备对健康公平的影响。他们建议FDA制定要求，公司应实施并展示如何随着时间保护其生成式AI设备免受内置或学习到的偏见的影响。最后，委员会表示，该机构应制定认证计划或其他标准，以确保开发这些设备的公司了解其生成式AI设备的偏见风险。
经过两天的深入讨论，委员会成员指出，建立这一监管基础设施将是一个持续的过程。巴特承认这一过程将是渐进的，但建立生成式AI在医疗保健环境中实施的明确指南，有助于在未来不久改善全国的医疗保健服务。“我们面临的一个挑战是，生成式AI通常与临床指南或临床决策支持有关，因此黄金标准是什么，”巴特说。“当我们思考是否在整个美国不同专科中提供了基于黄金标准临床指南的治疗时，答案通常是不。”她补充说，这项技术可以帮助提高向患者提供的护理质量，因此我们应该问的问题是“生成式AI使我们离黄金标准有多近？”
(全文结束)
