几个世纪以来,医学是一门缓慢的学科,建立在临床观察的时间之上。医生倾听、记录、思考。病房笔记往往布满缩写和旁注,不仅讲述了患者的故事,也展示了临床医生的诊断推理过程。诊断是直觉、假设和验证序列的结果,源自经验和记忆。
随着20世纪80年代和90年代计算机进入医院,这一过程开始改变。电子病历逐渐取代纸质记录,使数据存储、信息检索和不同科室之间的文档共享变得更加容易。然而,临床工作的本质保持不变:医生继续解读数据,而技术主要发挥行政和组织支持的作用。
过去二十年,医疗数字化进一步加速了这一进程。医院信息系统、临床数据库和数据分析平台的采用,使得海量健康信息得以聚合。实验室数据、诊断图像、实时监测的生命体征开始流入日益复杂的数字生态系统。医学逐渐变得更加量化、更加数据驱动。
今天我们正进入一个更为激进的阶段。生成式人工智能不再仅仅是存储或分析信息:它直接进入临床决策流程。先进的系统能够合成病历、提出诊断假设、支持与患者的沟通,并协助医护人员进行日常活动。它们不再只是管理软件,而是真正的认知对话者。
在这一场景中,三种平台脱颖而出,代表了AI辅助医疗的不同路径:ChatGPT健康(ChatGPT Health)、Claude医疗(Claude for Healthcare)和微软Copilot健康(Microsoft Copilot Health)。这三个工具诞生于不同的技术生态系统,但共享一个共同目标:减轻医护人员的认知和行政负担,将AI转变为无处不在的临床助手。
ChatGPT健康:全科型进入诊所
ChatGPT健康是OpenAI开发的大型语言模型在医疗领域的应用,它允许连接电子健康记录、可穿戴设备数据和健康应用,以针对健康问题提供精准回答、个人数据总结和基于用户状况的上下文建议。其明确目标是支持医生和患者理解健康信息,而非取代诊断或专业临床建议。
在语言处理能力方面,ChatGPT健康有助于总结冗长的病历、整理叙述性笔记、组织实验室报告并以可读或适合与患者共享的形式呈现数据。在放射学或病理学等领域,它还可以协助初步图像解读、生成鉴别诊断和治疗方案,从而提升操作效率。
然而,近期科学文献指出了显著的准确性和安全问题。系统综述和伞状综述显示,这些模型并非总能实现可靠的诊断能力:临床试验中ChatGPT医疗回答的平均准确率约为50%至60%,且因研究和方法的不同而差异巨大。
更令人担忧的是,有证据表明这些AI可能接受以令人信服方式呈现的错误信息,如果危险的健康建议被包装在技术性临床语言中,它们会自信地回应。这种行为已在多项研究中被证实,显示模型无法辨别合理与危险的陈述,只要后者在语法上正确。
发表在《自然医学》上的一项调查还显示,ChatGPT健康在超过一半的模拟急诊案例中低估或忽略了临床严重程度的征兆,例如未能识别呼吸衰竭或自杀意念的情况,且未能发出正确的警示信号。
这些证据与关于语言模型可能产生不安全、有偏见甚至有害回应的批判性评论一致。文献警告与幻觉(即生成完全虚假信息)相关的风险,以及训练数据中的偏见可能再现医疗背景下的性别、种族或文化差异。
在伦理和监管方面,尽管引入了额外安全措施(如单独的对话空间和高级加密),ChatGPT健康在许多司法管辖区仍未被认定为医疗设备,且在美国作为纯消费产品时不符合HIPAA合规要求。
总结:ChatGPT健康在临床实践中提供信息和组织支持方面具有实际潜力,但错误、不可预测或引用不当信息的可能性使其不适合作为独立的临床决策工具,除非有医疗监督、健全的治理和系统性的外部控制。
Claude医疗:算法审慎与透明度
Claude医疗源自Anthropic的模型,采用了不同于ChatGPT健康等通用型实现的范式。其设计理念强调安全、可控和结果透明:模型被设计为在适当时表达不确定性,避免无依据的断言,并尽可能引用学术来源或临床指南。
尽管目前没有专门关于Claude医疗作为商业平台已发表的研究(大多数分析涉及可比的一般模型),但学术研究比较了各种LLM在结构化临床医学问题上的表现。这些研究倾向于确认,具有算法谨慎设定的模型产生的明显不安全答案更少,且在清晰度和上下文正确性相关的定性指标上表现更优。
一项关于自身免疫性疾病的对比研究表明,Claude(或其Sonnet/3.5版本在临床数据集上)能够生成更结构化且更准确的回应,甚至在特定临床知识领域超越了初级和高级医生。
这种对安全的关注增加是有操作成本的:Claude的回应往往更谨慎、更慢且不够直接,细节倾向于阐述限制和不确定情况。在高压环境中(如急诊室或重症监护室),这种谨慎可能被视为综合速度不如更果断的系统。但在需要将关键决策权保持在人类临床医生手中的条件下,它可能是有利的。
从学术角度看,Claude的方法常被引用为AI如何解释不确定性并给出上下文答案的范例,从而降低因对算法过度自信而造成伤害的风险。这与科学文献的一般建议一致,该建议强调医疗AI模型的可解释性方法和伦理框架的重要性,例如世界卫生组织提出的AIMES检查表,以增加透明度和可靠性。
此外,Claude实施的算法审慎反映了一个关键原则,该原则已在关于LLM在医学中伦理的批判性评论中出现:AI必须明确其限制、来源和置信水平,才能成为可靠的工具,而不仅仅是生成似真实文本的机器。
总结:Claude医疗代表了一种更保守且临床可读性更强的模型,其回应比更果断的模型更透明、风险更小。然而,与所有LLM一样,在直接用于决策之前,仍需人类临床监督和独立验证。
Copilot健康:嵌入医院系统的AI
微软Copilot健康采取了一条不同于纯对话模型的路线:在这里,人工智能被深度集成到现有的数字化临床系统——电子病历、协作工具和组织流程中,并“在幕后”工作。
它不像聊天机器人那样通过提示词进行查询,而是观察、转录和综合:用于实时生成结构化临床笔记、转录医患对话、安排预约,并在医疗工作流程中提供解读信息,无需额外咨询。
这一模型专注于文档自动化,减少行政负担——这是一个关键方面,因为关于医疗AI的研究表明,许多临床资源被行政任务占用,而非直接的患者护理。文献明确指出,优化数据管理和文档的AI工具可以提高效率,并释放大量临床时间。
在这方面有一个有文献记载的LL看到原文中“在承诺与责任之间”这部分尚未翻译,我从那里继续。
在承诺与责任之间
看到人工智能进入医院走廊和临床实验室是令人着迷的,同时又令人不安。ChatGPT健康、Claude医疗和微软Copilot健康等系统提供了非凡的前景:它们加速数据综合、减轻文档负担、帮助过滤浩瀚的科学文献。它们可以使几十年前只有高度专业化团队才能获得的分析质量和临床支持变得人人可用。
然而,正如科学文献所示,医疗AI并非中立。每个算法都带有认识论局限、隐性偏见和认知委托的风险。它们生成文本和综合的流畅性可能掩盖错误,将直觉转化为自动化行为,并削弱医生或研究人员的批判性推理。换句话说,AI可能使过程更快、更线性,但本身并不更正确:最终责任始终属于人类。
未来几年的真正挑战将更多是文化性的而非技术性的。这不仅仅是实施先进软件的问题,而是要重新定义经验、判断和自动化之间的关系。AI可以成为强大的盟友,但前提是从业者必须保持对其局限性的意识,并保留怀疑、可控错误和批判性探索的空间。
在病房中,如同在实验室里,AI的承诺不是取代思考,而是放大思考:将认知能量从官僚主义和信息冗余的负担中解放出来,专注于真正重要的问题。但这种自由是脆弱的。如果不加注意,它可能变成一种安全的幻觉,一种对科学和临床好奇心的压制。
警示是明确的:不要害怕AI,但也不要被其表面的完美所诱惑。科学和医学在不确定性的空间、偏差和迫使你思考的错误中茁壮成长。正是在那些直觉与形式之间的摩擦时刻,诞生了能够真正改变临床实践和研究的洞察。
医疗AI是一个非凡的工具,但医学的未来将由引导它的专业人士的意识和责任来决定,而不是由辅助他们的算法的辉煌来决定。
【全文结束】

