每个以知识为基础的职业终有一天会面临人工智能超越人类专家的临界点。在医学领域，这一时刻似乎已在四月到来。一组主要来自哈佛和斯坦福的研究人员宣布了一项研究结果，该研究让ChatGPT与数百名医生在诊断障碍赛中一较高下，内容包括书面医学谜题和真实患者的医疗信息。结果显示AI胜出，而人类医生对此并不完全满意。
"一想到这些研究结果可能被如何使用，我就有点反胃，"该研究的主要作者亚当·罗德曼(Adam Rodman)在《科学》(Science)杂志发表前的新闻发布会上表示。他告诉记者，这项工作充其量只是一次学术练习；尽管研究可能很详尽，但它并不能证明ChatGPT或任何其他人工智能工具已准备好成为医疗实践的标准组成部分。罗德曼的谨慎态度与其他专家一致，但他也清楚，大多数人会无视这一警告。人工智能已经悄然渗入美国医疗保健系统，不管证据是否充分、安全措施是否到位。
就在我观看罗德曼新闻发布会的同时，我收到了工作医院管理员发来的手机消息。他们通知我，一款"人工智能驱动的临床推理工具"现已可供我使用。这已不是我第一次收到此类邮件；也不是第二次或第三次。事实上，我已记不清近年来有多少生成式人工智能产品被推广给我们使用，其中没有一款获得美国食品药品监督管理局(FDA)的医疗用途批准。
这种热情前所未有。医疗保健通常是最后采用新技术的领域之一；我仍在使用传呼机，并且经常发送传真。（年轻读者可以请Claude解释这些设备是什么。）对简单技术的倾向部分源于医生注重安全的文化：我们知道任何不合时宜的故障都可能导致致命后果。但如今，临床医生被允许——甚至被鼓励——随意使用最新软件，仅附有一条泛泛的警告："人工智能可能出错"。
这些错误可能带来严重后果。尽管罗德曼的研究表明生成式人工智能有助于诊断罕见疾病或解读异常症状，但就在前一周发表在《新英格兰医学杂志人工智能分刊》(NEJM AI)上的一项随机试验发现，人工智能模型故意产生的错误输出很容易误导医生。非专业人士也可能被类似误导。牛津科学家最近的一项研究发现，使用人工智能并未显著提高患者自我或他人诊断的能力。另一项由西奈山研究人员领导的研究则表明，聊天机器人可能无法提醒用户潜在的医疗紧急情况。
误诊并非唯一担忧。随着人工智能渗透医疗系统，错误在意想不到的地方不断出现。在新闻发布会后与罗德曼通电话时，他告诉我，有一天他惊讶地发现，他所在的贝斯以色列女执事医疗中心(Beth Israel Deaconess Medical Center)已启用人工智能代表他向患者起草消息——有时生成的供他审核的内容被他描述为"完全荒谬"。（贝斯以色列莱希健康中心(Beth Israel Lahey Health)发言人莎拉·芬劳(Sarah Finlaw)表示，使用人工智能工具是自愿的，并接受医院培训和支持，且人工智能工具的任何输出都必须经医生批准。）
部分问题在于，与健康相关的人工智能产品可以在未经FDA官员审查的情况下部署。如果一个面向医生的软件包被归类为"临床决策支持工具"而非医疗器械，通常就能避开该机构的监管。要被归入此类别，人工智能应用通常必须依赖现有医学文献、避免分析医学扫描或图像、解释其推理过程，并将诊断和治疗决定权留给医生。如今医生使用的大多数生成式人工智能产品似乎都符合这些标准。
消费者健康应用和设备也可能绕过FDA审查，只要它们旨在"维持或促进健康生活方式"而非诊断或治疗特定疾病。考虑到这一点，微软(Microsoft)、OpenAI、Anthropic和xAI都警告用户，其健康相关聊天机器人并非用于提供医疗服务或发布诊断和治疗建议。然而在实践中，这种区分并不总是清晰。埃隆·马斯克(Elon Musk)鼓励人们使用他的Grok聊天机器人生成"第二诊疗意见"和解读X光片及核磁共振图像；ChatGPT Health的一则营销视频展示了该应用向用户保证其检验结果处于健康范围内，并鼓励他们继续服用降胆固醇药物。
这些应用中的大多数还邀请用户连接其医疗记录和可穿戴健康设备。人工智能公司不需要获取所有这些数据就能提供通用健康信息。医疗初创公司Hims & Hers推出的新产品Labs AI甚至帮助用户解读"多达130项生物标志物测试"的结果，然后提供"关于全身健康、风险和模式的深度、个性化和可操作分析"。我同样会分析患者的检验结果并提供个性化、可操作的建议。区别何在？
当我联系这些产品的开发者时，他们重申没有向用户提供实际医疗建议。微软人工智能健康副总裁多米尼克·金(Dominic King)在邮件声明中表示，其Copilot应用提供"与临床医生对话的有用信息和支持"，而非"单一的确定诊断"。Hims & Hers首席医疗官帕特里克·卡罗尔(Patrick Carroll)表示，Labs AI不会诊断或推荐治疗："这一责任属于临床医生，Labs正是为强化这一边界而设计。"Anthropic和xAI未回应我的询问。OpenAI拒绝就本文发表评论。
或许医生与算法之间的这一边界从一开始就是人为设定的。医学文献中正在探讨的一个想法是，停止将人工智能产品视为普通医疗器械。鉴于它们具有类人学习能力，能根据新信息调整并为个体患者量身定制答案，医疗人工智能可能更像医生而非除颤器——因此或许应该以评估医生的方式评估它们。与其要求FDA批准聊天机器人执行的每一项功能，不如要求它通过医师执照考试，并经历类似住院医师培训期的监督阶段。
然而目前，这一想法仍属边缘观点。美国政府高级研究计划署健康局(ARPA-H)的心脏病专家兼项目负责人海德尔·瓦拉奇(Haider Warraich)正领导一项重大努力，以传统方式获得医疗聊天机器人的批准。其机构正在为专门针对心脏疾病的AI工具开发提供资金，然后将其送入完整的FDA授权流程。瓦拉奇希望，通过如此严格的评估，该聊天机器人将能安全地评估和治疗患者，无需医生介入。罗德曼称赞了这种方法，但警告称这一过程将"耗时数年"，在此期间，大量新型医疗AI将未经严格审查就流入市场。
从这个角度看，当今人工智能健康产品的出现让我想起了2010年代优步(Uber)和来福车(Lyft)等网约车服务的崛起。出租车行业受到严格监管，使新进入者难以进入市场。然而通过规避甚至无视这些规则，网约车公司得以在短时间内获得大量用户。很快，政府别无选择，只能调整法律以适应已成为现状的情况。同样的模式可能最终在医疗领域重演。旨在确保医疗产品安全有效的法规会继续有效吗？还是会因人们已在广泛使用的工具而被削弱或取消？
我们很快就会知道答案。罗德曼告诉我，医疗保健系统不会"放慢脚步等待证据积累"。根据美国医学会(AMA)2026年的一项调查，80%的医生已在工作中使用人工智能工具。患者也紧随其后。人工智能的益处可能仍不确定，但它们已太过诱人而难以拒绝。
【全文结束】