一年前举办具有里程碑意义的人工智能峰会后，《美国医学会杂志》指出，医疗系统正部署未经证实的算法，却几乎缺乏能证明其改善治疗效果——甚至确保无害——的证据。
人工智能已发展速度远超医学对其测量能力，最新《美国医学会杂志》特别报告警告称，尽管AI已深度融入医疗保健的几乎所有层面，但证明其真实世界价值的证据仍相对稀缺。
这份题为"今日与明日的AI、健康与医疗"的特别通讯于10月13日星期一发布，汇总了2024年10月举行的《美国医学会杂志》人工智能峰会成果。报告由匹兹堡大学Derek C. Angus医学博士主导，提供了迄今最清晰的AI如何改变医疗保健及其实际影响认知不足的概述。
证据滞后于应用
AI工具能力看似不断突破新高度——从诊断辅助到处理行政事务。美国食品药品监督管理局（FDA）已批准超1200款AI医疗设备，其中多数用于影像领域，近90%美国医疗系统正在使用某种AI技术。
然而报告作者指出，这些工具大多未经充分测试便投入临床实践，且几乎不存在上市后评估。许多工具完全不受FDA监管，包括影响医疗决策但未被归类为医疗器械的文档软件、患者调度算法和预先授权系统。
报告明确表示："即使对FDA有权监管的工具，获批也未必要求证明临床效果提升。"
从峰会讨论到行动方案
该报告源于2024年《美国医学会杂志》人工智能峰会，会议召集临床医生、技术专家和政策制定者，探讨医学界如何从AI热情转向责任落实。
与会者结论是：若缺乏验证标准、监管机制和透明度，该技术可能加剧医疗不平等并引发新的安全问题。
专家小组提出四项措施弥合创新与证据间的鸿沟：
- 早期频繁协作：临床医生、患者、监管机构和开发者应共同参与AI工具的构建与监测
- 测试真实场景效果：安全检查和合规审计不足为凭，医疗系统需获取结果与性能数据
- 负责任地共享数据：国家层面基础设施可实现跨人群与场景的AI效果研究
- 调整激励机制：支付模式与政策应奖励负责任的使用，而非单纯追求快速部署
报告引用前FDA局长Robert Califf医学博士的直言："我不相信美国有任何一家医疗系统具备验证临床护理系统中部署AI算法的能力。"
超越效率陷阱
尽管自动化已成为卖点，报告作者警告勿将AI视为解决职业倦怠的灵丹妙药。若真正节省时间并改善患者护理，简化文档或工作流程的工具或有帮助；否则可能制造新压力。
"若医生从行政任务中解放，可能被要求接诊更多患者，这同样会导致倦怠。"报告写道。
作者还强调AI素养与技术支持在资源匮乏地区的不均衡部署。若不关注公平性，数字工具可能扩大而非弥合现有差距。
报告虽未提议新法规，但核心信息明确：医学界需要证据而非承诺。作者呼吁建立"能快速、高效、稳健且可推广地认知这些工具对健康影响的知识生态系统"。
当医疗机构竞相部署最新AI工具时，报告抛出更严峻的问题：这些旨在让医学更智能的工具，是否真能提升医疗质量？
【全文结束】
