上个月底，犹他州医学执照委员会要求立即暂停该州与AI公司Doctronic的试点项目。该项目允许聊天机器人评估患者并为近200种慢性病药物推荐续方，州政府计划逐步取消医生对每个病例的审查。
委员会表示，他们是在试点启动后才得知该项目的。其警告直截了当：在缺乏适当临床监督的情况下继续推进，"可能使犹他州公民面临风险"。
这种反对是可预见的，也是可以避免的。犹他州是目前考虑超过250项管理临床AI法案的至少47个州之一，这些法案在偏见审计、支付政策和患者同意等方面产生了规则拼凑的局面。与此同时，联邦政府监管医疗软件的主要工具——美国食品药品监督管理局（FDA）的设备审批流程——在结构上不适合监管自主临床AI。该流程是为静态产品（如影像算法）设计的，而非为不断改进的适应性系统设计。
这种情况发生在全国面临日益严重的医生短缺之际。全国预测显示，未来十年将缺少数万名医生，特别是在初级护理和农村地区。传统的解决方法，如增加医学院名额和住院医师岗位，需要数年时间才能产生实质性影响。人工智能提供了一条更快的路径，但它需要一个合适的监管框架。
在两年内，大型语言模型已从勉强通过医学执照考试，发展到在复杂临床推理方面表现与医生相当。2025年在肯尼亚进行的一项前瞻性研究对近4万名初级护理就诊进行了观察，发现使用AI辅助的临床医生在诊断和治疗错误方面明显减少。在去年12月发表的NOHARM试验中，对常规临床任务进行的直接比较显示，医生在任何测量维度上都没有超过最强的大型语言模型。在初级护理中相当一部分认知工作方面，如审查病历、采集病史、生成鉴别诊断、管理慢性病，自主AI已经能够提供临床上足够的护理。
目前的限制在于监管。FDA的框架假设产品在批准时是固定的。生成式AI并非如此：每次模型更新都会带来新功能、新故障模式和刷新的训练数据。预定的变更控制计划在边缘有所帮助，但它们仍然需要一次性认证和更新之间的锁定期。该框架无法跟上步伐。
州级碎片化提出了另一个问题。加利福尼亚州禁止保险公司使用AI基于医疗必要性拒绝承保。科罗拉多州要求对高风险系统进行偏见评估。每一项新法律都增加了复杂性，但没有解决核心问题：我们如何知道一个自主AI系统是否有能力行医？结果是部署迟缓，开发商的合规成本更高，而AI最能帮助的社区中的患者获得的医疗服务不均衡——尤其是面临护理提供者严重短缺的农村地区。
犹他州争议实际上指出了一个答案。医学委员会的主要反对意见是关于顺序：犹他州先部署系统，然后才引入临床监督。州官员强调，第一阶段目前包括对每张处方的医生审查，但该计划的设计是在达到数量和安全基准后逐步取消审查，首先转向回顾性审计，然后是随机抽样检查。
一个在执业前通过测试、监督部署和持续监控证明能力的AI，情况就不同了。基于这些原则的认证模式已经存在，适用于医生、执业护士和医师助理。
在4月29日发表在《美国医学会杂志》（JAMA）的一篇观点文章中，我的同事Robert Wachter、Ezekiel Emanuel和我提出将该模型应用于自主临床AI，即无需逐例临床医生审查即可做出护理决策的系统。
该框架包含四个核心要素。
- 证明能力。每个自主AI模型必须在USMLE（美国医师执照考试）和任何与其预期范围相关的专业委员会考试中达到或超过近期人类考生的中位数成绩，然后进入监督临床部署阶段，类似于住院医师培训，在此期间它将在大规模真实患者身上展示不劣于人类的表现。
- 明确的执业范围。执照将规定AI被授权独立处理的疾病、环境和任务，以及何时必须升级到人类临床医生。
- 持续监控和定期更新。授权将是有时限的，可能是两年一次，并取决于持续的现实世界性能跟踪。性能低于标准的模型将失去执照。
- 联邦优先权和分层责任。将在美国卫生与公众服务部（HHS）内创建一个新的临床AI监督办公室来认证能力。需要国会法案将监管自主临床AI的权限从FDA转移到该办公室。开发商将对模型性能承担主要责任；部署机构将负责工作流程整合、监督协议和不良事件报告。各州将保留对执业范围、监督规则和执法的权限，但不能施加重复的能力评估。
有三个主要反对意见应提前解决。
- 州控制权。医学执照传统上是州级职能。自主AI可以像远程医疗一样瞬间跨越州界。国家标准减少了行政重复，并确保犹他州和密西西比州的患者获得同等的安全保障。
- 与医生的等同性。为AI颁发执照并不等同于将其等同于医生。临床医生在复杂判断、道德推理和语言模型无法复制的护理人性化方面仍然至关重要。执照只是承认试验证据已经表明：对于定义明确的低风险任务，监管良好的AI可以安全行医。
- 实施能力。HHS目前没有大规模评估临床AI的基础设施。可以借鉴FDA的模式，通过开发商用户费用来建立。此类费用自1992年以来一直为药品和设备审查提供资金。
更多州将面临自己的Doctronic时刻。如果没有连贯的联邦框架，医疗服务不足地区的患者将继续等待AI可以安全提供的护理，而各州则会循环经历临时部署和可预见的反对。在另外49个州不得不以艰难方式找出答案之前，国会应该授权基于上述执照原则建立临床AI监督办公室。
Alon Bergman博士是宾夕法尼亚大学佩雷尔曼医学院医学伦理与健康政策助理教授，研究方向包括提供者行为、医疗技术采用和医疗服务获取。
【全文结束】