生成式人工智能已经重塑了计算机编程、零售和制造等行业。然而在医学领域，对临床出错的恐惧减缓了它的应用。
目前，三分之二的医生报告在临床实践中使用生成式AI工具，尽管一半的人坚持认为需要更强有力的保障措施。
这种分歧——急于采用AI的医生与担忧其风险的医生之间的分歧——在HBO剧集《匹兹堡医生》最近一集中成为焦点，该剧设定在一间虚构的匹兹堡急诊室。
在这一集（标题为《上午8:00》）中，主角迈克尔·“罗比”·罗比纳维奇医生是一位资深急诊医生，对新科技持怀疑态度。而他的临时替代者巴兰·阿尔-哈希米医生则更为热情。
她引入了一个名为“环境倾听”的AI记录工具来简化病历书写。该应用节省了时间，给住院医生留下了深刻印象。但它随后错误识别了一种药物，如果不是另一位医生发现，这个错误可能会造成严重后果。
我曾广泛撰写关于生成式AI对医学影响的文章，并发现这集剧情引人入胜。虽然该剧准确地捕捉到了医学界AI倡导者与怀疑者之间的紧张关系，但它遗漏的内容比它所描绘的更为重要。
《匹兹堡医生》正确地描绘了许多临床医生对这一强大新技术仍心存恐惧。
除了担心AI会犯错误导致患者受伤，医生们还担心它变得过于强大，最终会凌驾于临床判断之上，削弱医生的角色。这两种担忧都是合理的，它们共同减缓了生成式AI的应用。
在大多数医院，生成式AI被限制在行政工作上：听取患者问诊、起草电子病历笔记、总结病历，以及协助计费和编码任务。尽管被大肆宣传，但只有最先进的医疗系统正在部署AI来帮助医生和患者进行诊断和制定治疗计划。
从这个意义上说，该剧抓住了核心动态。医学中的生成式AI既没有被普遍视为完美无缺，也没有被完全否定为无用。相反，它被谨慎地应用于不太可能影响临床结果的领域。
在一场戏中，阿尔-哈希米医生向同事们保证，AI系统“98%准确”。但如果没有上下文，这个数字极具误导性。
准确性取决于衡量的是什么。如果阿尔-哈希米的意思是AI避免了98%的微小记录错误，那么这个数字严重夸大了其表现。但如果这个统计数字意味着AI在2%的情况下会犯危险错误，也没有证据支持这一说法。
该剧最大的错误是夸大了人类表现与技术结果的对比。当阿尔-哈希米告诉同事们这项技术“优秀，但不完美”，因此必须始终由人类监督时，她暗示临床医生很少犯错。这种假设极不准确。
误诊每年导致近40万美国人死亡，另有25万人死亡与可预防的医疗错误有关。研究表明，至少一半的电子健康记录包含至少一个错误，许多错误在忙碌的医生复制粘贴既往病历笔记时被延续。
关键问题不在于生成式AI是否完美无瑕。而在于它是否比单独工作的临床医生表现更好。即使是误诊和可预防性伤害的适度下降，每年也能挽救数万条生命。
这集剧情聚焦于当前对生成式AI的紧张情绪。它遗漏的是这项技术未来的发展方向。
在头对头的诊断比较中，生成式AI的表现已经达到与人类临床医生相当的水平。
随着工具的迅速改进，争论很快将发生转变。问题将不再是生成式AI是否属于医学领域，而是如何最有效地部署它。
它最大的影响不太可能出现在急诊室和医院，而将体现在帮助管理数千万患有慢性病的美国人。
美国疾病控制与预防中心的数据显示，更好地控制高血压和糖尿病可以预防高达一半的心脏病发作、中风和肾衰竭。如今，患有这些疾病的患者每年仅被随访几次，这有助于解释为什么只有一半的美国人能够有效控制高血压。糖尿病的控制率甚至更低。
生成式AI可以分析来自家用血压袖带、血糖监测仪和可穿戴设备的数据，从而实现更早的药物调整和更及时的治疗。临床医生无需等待患者的下一次门诊预约或危机发生，就能在出现预警信号时进行干预。更持续性的监测已使一些美国医疗系统实现接近90%的控制率。
以更低成本获得更高质量——这是《匹兹堡医生》未曾探讨的理想未来。未来的核心争论将不再是医生与机器之争。而是医生与技术如何合作以造福患者。最终，敬业临床医生、赋权患者和生成式AI的结合将产生比三者中任何单一要素都呈指数级更好的临床结果。
Robert Pearl，著有《ChatGPT, MD》，在斯坦福大学医学院和斯坦福大学商学院任教。他曾任The Permanente Medical Group的首席执行官。
【全文结束】