在当今科技飞速发展的时代，人工智能（AI）在医疗保健领域展现出了近乎无限的应用潜力，从自动起草患者消息到优化器官移植流程、提高肿瘤切除精度，AI医疗设备正逐渐成为医疗行业的重要组成部分。然而，一项由北卡罗来纳大学医学院等机构联合开展的最新研究，于2024年8月26日发表在《自然医学》上，却揭示了这一新兴领域背后隐藏的问题：近半数获FDA批准的AI医疗设备未使用真实患者数据训练，这一现象对患者安全及技术可靠性构成了潜在威胁。
惊人发现：近半数AI医疗设备验证缺失
研究团队由来自北卡罗来纳大学、杜克大学、牛津大学等多国机构的学者组成，他们对FDA数据库中2016年后获批的521项AI医疗设备进行了深入分析。结果令人震惊，其中144项采用回顾性验证，148项进行了前瞻性验证，22项通过随机对照试验，但仍有226项（约43%）缺乏真实患者数据验证。部分设备甚至依赖模拟图像或非患者生成的数据，根本未满足临床验证的要求。 论文明确标注了设备分类比例，回顾性验证占27.6%、前瞻性验证占28.4%、随机对照试验仅占4.2%。而且，AI设备年均批准数量从2016年的2项激增至近年的69项，这一数据清晰地反映出行业快速扩张与监管滞后之间的矛盾。FDA在2023年9月发布的指南草案，也未明确区分验证方法等级，导致审批标准模糊，这无疑给AI医疗设备的质量把控带来了极大的挑战。
临床风险：缺乏验证的AI设备隐患重重
缺乏真实患者数据验证的AI医疗设备，可能会在肿瘤诊断、器官移植等关键领域产生严重的临床影响。以北卡罗来纳团队开发的器官捐献评估算法为例，该算法依赖电子健康记录，需要真实的临床数据进行优化。但目前多数设备仅使用历史数据或模拟场景训练，这使得算法在实际应用中的可靠性大打折扣。 再以AI辅助CT扫描诊断为例，如果模型仅通过疫情前的X光片（回顾性数据）进行训练，那么它很可能无法识别新冠患者肺部的特征，从而导致误诊风险大幅增加。研究团队强调，前瞻性验证（实时患者数据测试）和随机对照试验（隔离变量）对于确保AI医疗设备的准确性至关重要，他们呼吁制造商与监管机构强化验证透明度，以保障患者的安全。
科普时间：临床验证方法与AI训练原理
为了让大家更好地理解AI医疗设备的验证过程，我们来科普一下相关的临床验证方法。
- 回顾性验证：这种方法是基于历史数据，如旧影像，来训练模型。然而，它存在数据过时或偏见的风险，因为历史数据可能无法反映当前患者的实际情况。
- 前瞻性验证：利用实时患者数据测试算法，更贴近临床实际。通过这种方式，AI能够适应训练时不存在的数据变量，从而提高诊断的准确性。
- 随机对照试验（RCT）：这是临床验证的黄金标准。通过随机分配实验组与对照组，排除混杂变量，例如对比AI与医师诊断结果的差异，能够更准确地评估设备的性能。 AI的训练原理是通过海量数据“学习”模式识别。但如果训练数据脱离真实场景，如依赖模拟图像，那么算法在新环境（如疾病变异）中可能会失效。因此，使用真实患者数据进行训练对于AI医疗设备的可靠性至关重要。
未来展望：明确标准，提升AI医疗设备安全性
这项研究呼吁FDA明确临床验证分类标准，推动行业采用高证据等级的前瞻性或随机对照验证，并公开验证结果。这一举措将有助于提升AI医疗设备的安全性，确保技术真正服务于临床需求。例如，在器官移植领域，优化相关算法可以挽救更多生命。 然而，要实现这一目标并非易事。目前，医疗领域缺乏基础算法，这主要是因为实施成本高昂，且需要医学与计算机科学的跨学科团队支持。未来，我们需要加强跨学科合作，降低实施成本，促进基础算法的开发与验证透明度的提升。只有这样，AI医疗设备才能在保障患者安全的前提下，为医疗行业带来真正的变革。
