随着社交媒体和网红的兴起，以及政府机构在疫苗政策等健康政策上快速变化的立场，再加上大型语言模型引擎的出现，一场完美风暴已然形成，健康错误信息可能影响患者在正确时间获得正确治疗。更重要的是，这正成为医患关系中一个重要的部分。我的同事——北卡罗来纳大学儿科住院医师Tyler Beauchamp医生，与我共同撰写了这篇文章，他分享了最近在急诊科的经历。
“就在午夜过后，一位母亲带着她刚出生一周的婴儿来到我们的急诊室。婴儿唯一的症状是呼吸急促，每分钟接近80次。没有发烧，没有皮疹。孕期和分娩正常。但孩子呼吸快得足以让任何父母感到恐惧，这理所当然。
在检查过程中，我建议进行胸部X光检查以寻找病因。母亲坚决拒绝，说‘谁也别想给我的孩子做辐射。’她解释说她从自己使用的人工智能工具中了解了X光的知识。一个指尖采血来检测婴儿血糖水平也被拒绝，她也不愿意让孩子留院观察病情恶化。我问她想让我们做什么。她回答要做肺部超声，因为人工智能工具告诉她这是找出问题的最安全方法。当我告诉她超声不是新生儿呼吸频率高的正确检查时，她反问：‘你怎么可能知道？’”
医生们已经对这种对话非常熟悉，这种对话往往被社交媒体“专家”和生成式人工智能工具放大。大多数临床医生以希波克拉底誓言为指导，以同情心帮助患者，但当一个患者抵制优质护理，并在这个过程中影响到每一个可能正在等待医生处理自己紧急问题的其他患者时，会发生什么？我们的职责之一是保持耐心，同时引导健康。随着“谷歌医生”和自私自利的AI健康服务的兴起，对医患关系有何影响？
急诊室：美国的初级医疗
在全国范围内，急诊科越来越多地充当事实上的初级医疗诊所。根据美国疾病控制与预防中心的数据，每年有数百万次就诊是因为非紧急情况，这些情况本可以在门诊处理。但初级医疗的可及性正在缩小。保险障碍、预约积压、医生短缺和费用问题，迫使患者走向那个法律上不能拒绝他们的地方——急诊科。
急诊医生现在在凌晨2点处理高血压随访。他们补充药物。他们评估已持续多年的慢性背痛。急诊室已经成为这个已经破裂的医疗系统的安全网。
“谷歌医生”、社交媒体的崛起与不信任
医生曾经是社区的支柱，不是因为地位，而是因为他们致力于保护自己的城镇。人们在最需要帮助的时候来找他们。随着医学的发展，医生每年都要跟上海量的信息，提高自己的知识和对该领域及患者的承诺。然而，公众对医生角色的看法已经改变，尤其是在过去十年。
如今，医生被要求以可能基于错误信息而非科学的方式进行治疗。互联网使信息民主化，但没有仔细的引导，信息可能会与理解混为一谈。
随着AI和ChatGPT等大型语言模型的兴起，我们可能面临的一个重大问题是成为医疗领域的“唯唯诺诺者”。许多这类AI程序旨在提供与用户目标一致的回答，并在回答中表现出自信。然而，那些短暂使用这些工具的人以及不质疑这些工具的人，可能会收到仅仅反映他们自身信念的信息。
这些系统本身并不坏。它们是工具。锤子可以用来修理房屋，但也可以夺走生命。任何AI的好坏都取决于它所获得的信息。医生经过训练，会引导患者考虑疾病的所有方面，而单独使用AI的用户只能得到他们提出问题的答案。最近发表在《自然》杂志上的一项研究探索了ChatGPT Health指导的临床推荐的结果，发现AI在测试的超过一半病例中出现了分诊不足，最危险的失败发生在紧急情况下。该研究不仅强调了错过紧急需求的风险，还指出了AI工具无法超越所问问题的局限性。
另一部分在于制度信任的文化侵蚀。过去十年，错误信息往往因社交媒体平台而繁荣——它们的生死取决于内容参与度。参与度通常意味着向人们展示他们赞同的内容，无论准确与否。随着时间的推移，这变成了一个回音室。如果你相信疫苗有害并参与相关内容，你会被推送强化这种信念的内容。这就是为什么你永远不会看到细致的医学解释成为病毒式传播。作为医生，我们的工作是帮助患者做出明智的决定，利用多年的专业知识、精湛的研究、智慧和人类经验。当医学不信任程度如此之高，以至于人们信任虚拟建议而非那些受过训练、理解AI无法理解的复杂人性的人时，会发生什么？
AI工具可以非常复杂，但它们无法检查你的孩子。它们无法看到胸壁的细微凹陷，也无法注意到轻微的罗音。它们无法制定一个治疗计划，虽然可能不是“黄金标准”，但能平衡风险与你的目标，给予你安全的自主权。它们无法在你需要时握住你的手并安慰你，当医学无能为力时。
最重要的是，它们对它们所创造的结果不负有道德责任。
而医生有。
意想不到的后果
Beauchamp说：“那位希望我们暂停并逐步向她解释医学复杂性的母亲值得同情。没有什么比未知更可怕，在一个理想世界里，时间不是问题，我们可以花几个小时交谈。但可悲的是，花在一个病人身上的每一分钟，都是无数其他病人无法得到医生看诊的时间。”
随着急诊科成为非官方的初级医疗来源，我们必须考虑其影响。鉴于医疗成本和保险纠纷，当不仅仅是急性危机被质疑，还有长期健康问题被质疑时，会发生什么？我们已经看到了影响，因为疫苗和营养——这些我们知道能预防问题、保护健康的东西——正以前所未有的比例受到质疑。
虽然医生已不再是曾经受信任的支柱，但在需要时人们仍然会求助于他们。家庭仍然来到急诊科寻求答案和安慰。但越来越多地，他们可能想要符合他们已经决定相信的答案——通常是AI机器人告诉他们的答案。
这使医生陷入一种不可能的紧张状态。我们宣誓不伤害他人。这个誓言要求我们推荐我们认为医学上合理的东西——即使它不受欢迎。它要求我们说：“我理解你的恐惧，但这不是最安全的选择。”
当这些推荐被持续质疑或拒绝时，医生的角色就从可信的顾问变成了谈判者。在资源匮乏的系统中平衡必要的护理与患者自主权——难怪近一半的医生报告有职业倦怠症状。与此同时，医生短缺每年都在恶化，一些数据预测未来10年全国将短缺超过8万名医生。
如果不信任继续扩大，我们面临的风险比不便更危险：医疗的碎片化。如果患者开始相信他们比训练有素的急诊医生更擅长处理急性危机，后果将不是理论上的。它们可能可悲地以漏诊、延误干预和可预防的伤害来衡量。
医生的责任
世界令人不知所措，人们不得不在一个昂贵、冷漠且不断变化的医疗系统中导航。除了抓住那些看似合理的东西，人们还能做什么？必须做出一些改变来帮助我们的医疗系统适应。
首先，重建信任的负担不应落在患者身上，而应由多个群体承担：临床医生、政策制定者、行业和领导层。
对临床医生来说，这意味着优先考虑耐心和同情。这意味着不仅要解释我们推荐什么，还要解释为什么。这意味着承认不确定性，而不是假装无所不知。医生必须适应并以新的方式与患者互动，同时始终保留一个关键要素——人际联系。
这一责任也必须是社会性的。媒体机构、AI行业和公众人物在传播健康信息时必须被要求更高的标准。那些从参与度中获利的平台不能对错误信息的现实后果漠不关心。“内容”和“护理”之间的区别很重要。
AI将长期存在。它可以总结研究、改进工作流程、扩大信息获取渠道。使用得当，它可以增强医学。但它无法取代床边决策的道德分量。它无法与一位恐惧的母亲坐在一起，并做出一个权衡微小辐射暴露与可能肺塌陷的决策。它无法承担犯错的责任。
Beauchamp说：“那天晚上的婴儿最终好转了。没有灾难，没有戏剧性的诊断。然而，那次经历一直萦绕在我心头。不是因为医学问题。而是因为作为临床医生，我们即将进入一个新时代：保留信任以提供最佳的护理。”
医疗保健的未来不会仅由技术或政策决定。它将取决于我们能否恢复一个简单而脆弱的信念：当你在最脆弱的时刻去看医生时，你相信站在你面前的那个人是为了保护你免受伤害。
与Tyler Beauchamp医生共同撰写。
本文最初发表于Forbes.com。
【全文结束】