利用人工智能或机器学习算法的医疗设备正在迅速改变美国的医疗保健行业。美国食品药品监督管理局（FDA）已经批准了1000多种此类设备的上市，还有更多设备在开发中。伊利诺伊大学厄巴纳-香槟分校的Sara Gerke教授在其新论文中指出，针对基于AI的医疗设备的监管框架需要改进，以确保透明度和保护患者的健康。
Gerke表示，FDA必须优先开发AI医疗设备的标签标准，就像包装食品上的营养成分标签一样。她指出：“目前，AI或机器学习医疗设备缺乏标签标准，这是透明度的一个障碍，因为它阻止了用户获得关于设备及其安全使用的必要信息，例如训练数据中涉及的种族、民族和性别分类。”她建议FDA可以从食品营养标签中学到宝贵的经验，并将其应用于开发由AI增强的医疗设备标签标准。
推动围绕AI医疗设备增加透明度的努力不仅受到不同AI监管问题的复杂化，还受到美国政府对何为医疗设备的定义影响。如果某物被认为是医疗设备，“那么FDA有权对该工具进行监管”，Gerke说。
“FDA拥有国会授权，可以监管药品、生物制品和医疗设备等医疗产品，”她解释道。“除了一些例外情况，基于AI或机器学习且用于疾病诊断、治疗、缓解或预防的产品根据《联邦食品、药品和化妆品法案》被归类为医疗设备。这样，FDA可以评估该设备的安全性和有效性。”
如果在临床试验中测试了一种药物，“你会有很高的信心认为它是安全有效的，”她说。
“目前，AI或机器学习医疗设备缺乏标签标准，这是透明度的一大障碍，因为它阻止了用户获得有关设备及其安全使用的重要信息，例如训练数据中的种族、民族和性别分布，”Gerke补充道。“一个潜在的补救措施是，FDA可以从食品营养标签中学到宝贵经验，并将其应用于开发由AI增强的医疗设备标签标准。”
然而，Gerke指出，在美国几乎没有任何针对AI工具的临床试验。
“许多AI驱动的医疗设备基于深度学习，这是机器学习的一个子集，本质上是‘黑箱’。要理解这些工具为何做出特定推荐、预测或决策，对人类来说非常困难，甚至不可能，”她说。“如果算法不是锁定的，它们可能是自适应的，因此在实际应用中比经过严格测试和临床试验的药物更具不可预测性。”
Gerke还提到，在医院实施新技术后，评估其可靠性和有效性也十分困难。
“通常情况下，在医院部署之前需要重新验证该工具，因为这取决于患者群体和其他因素。所以这比简单地插上电源并在患者身上使用要复杂得多，”她说。
尽管FDA尚未允许类似ChatGPT的生成式AI模型上市，但Gerke认为这种设备最终会问世，届时需要向医疗从业者和患者披露输出内容是由AI生成的。她同时也是伊利诺伊大学欧洲联盟中心的教授。
“必须明确告知从业者和患者，这些设备生成的结果是AI生成的，因为我们仍处于技术发展的初期阶段，而且众所周知，大型语言模型偶尔会‘产生幻觉’并向用户提供错误信息，”她说。
Gerke强调，该论文的主要结论是首次提出不仅需要像FDA这样的监管机构开发“AI事实标签”，还需要一种“包装正面”的AI标签系统。
“作为AI事实标签的补充，包装正面的AI标签可以通过提供一目了然、易于理解的信息来进一步提升用户的素养，并使他们能够更好地了解设备的使用，”她说。
Gerke特别主张采用两种AI事实标签——一种主要面向医疗从业者，另一种面向消费者。
“总结来说，一个全面的AI医疗设备标签框架应包括四个组成部分：两个AI事实标签、一个包装正面的AI标签系统、现代技术（如智能手机应用程序）的使用以及额外标签。这一框架包括从简单的‘可信AI’符号到使用说明、患者情况说明书以及AI生成内容的标签等内容。所有这些都将增强用户对AI优缺点的理解，就像食品标签向消费者提供食品营养成分信息一样，”她说。
这篇论文的建议虽然并不详尽，但应该有助于监管者开始思考制定AI医疗设备标签标准这一“具有挑战性但必要的任务”。
“作为AI事实标签的补充，包装正面的AI标签可以通过提供一目了然、易于理解的信息来进一步提升用户的素养，并使他们能够更好地了解设备的使用，”伊利诺伊大学法学院Richard W. & Marie L. Corman学者Sara Gerke说道。
“这篇论文首次建立了包装正面营养标签系统与AI潜力之间的联系，并提出了针对基于AI的医疗设备的综合标签框架的具体政策建议，”她说。
该论文由《埃默里法律期刊》发表。
此项研究得到了欧盟资助。
(全文结束)
