全球各地的患者正越来越多地寻求人工智能系统提供的医疗指导。在《印度时报》最近的一篇报道中，当多位专科医生未能确定一名女性慢性咳嗽和内出血的原因时，她的女儿求助于ChatGPT。该系统提出了临床医生未曾考虑的问题：患者是否正在服用可能导致此类症状的降压药物。更换药物后，她的病情得到改善。
当共情与流畅性塑造信任
此类事件正随着AI工具进入日常医疗而日益普遍，部分原因是它们被认为更加专注：即时回应、不显露不耐烦地提出后续问题，并以流畅自信的方式表达结论。
2023年发表在《美国医学会内科杂志》的一项研究发现，患者对AI生成的医疗回应的共情度和可信度评分显著高于医生的回复。对于经历匆忙就诊和碎片化护理的个体而言，与AI的互动可能比临床接触感觉更安全。
但流畅并不等同于专业。在压力下，患者可能将 polished 的语气误认为准确性。AI速度快到足以跳过反思，流畅度高到足以 discourage 质疑。当它填补了获取途径、时间和共情方面的缺口时，其风险不仅成为信息来源，还可能取代临床判断。
临床医生也难以免受类似动态影响。AI工具在医疗领域的采用正加速发展。医疗AI公司OpenEvidence估计，今年将有超过1亿美国人接受使用AI支持工具的医生治疗。环境文档系统作为一种常用工具，可减少行政负担，让医生专注于患者。然而早期证据表明，AI记录员可能 flattens nuance，无法捕捉 distress 或心理社会背景。在高压环境下，同行评审研究显示，放射科医生可能比预期更 defer to AI triage labels，这种自动化偏见可能导致护理延迟。
这些失败很少源于疏忽。当工具在缺乏责任明确界限的情况下被引入工作流程时，问题就会出现。缺失的防护栏使错误迅速扩大。
个人 vigilance 是不够的。随着AI在护理中更加深入，塑造信任和权威的线索比我们的监督结构适应得更快。在受控环境中表现良好只是问题的一部分，更难的问题是：AI是否以保持责任、权威和问责制恰当对齐的方式被整合到临床工作流程中。
设计重在判断，而不仅是准确性
解决这些挑战的一个新兴框架是"计算谦逊"。这种方法设计的系统突出不确定性，使模型局限性 visible，并保留而非 obscures 人类判断。这意味着不仅要考虑AI是否准确，还要决定何时应质疑、推翻或忽略其输出。这需要关注技术性能、患者的情感脆弱性、临床医生的专业自主性以及做出决策的真实世界背景。
这也意味着将财务激励与以患者为中心的结果对齐。诸如医疗保险共享储蓄计划和基于价值的采购计划等基于价值的支付模式，奖励医疗系统减少再入院率和改善慢性病结果，而非增加服务量。在这样的环境中，AI工具不仅根据技术性能进行评估，还根据其是否改善实际结果、工作流程可用性和患者安全来评估。当 reimbursement 和 accountability 在开发者、提供者和支付方之间共享时，激励就会从快速部署工具转向负责任地整合工具。
AI已经嵌入医疗保健。尚未确定的是现代医学愿意与之建立的关系：是建立在流畅性和便利性基础上的关系，还是围绕清晰度、限制和共同责任构建的关系。
（照片来源：Irina_Strelnikova，Getty Images）
Leslie Pascaud 拥有超过35年的战略洞察和营销经验，曾推动医疗技术和全球健康领域B2B、B2C和非营利组织的增长。她专长于将复杂创新转化为清晰、差异化且能引起商业和使命导向受众共鸣的叙述。作为一家数字临床试验公司的首席营销官，她领导跨职能团队开发思想领导力和市场进入策略，助力公司连续三年入选Inc. 5000 fastest-growing companies榜单。她目前是Kinetic Strategic Consulting Group的战略顾问，也是Tiko的三届董事会顾问，Tiko是2025年Audacious Project资助的获得者，通过开创性数字平台为非洲年轻女性提供健康服务。Leslie当前的工作聚焦于人工智能在医疗保健中的演变角色，特别是AI系统如何影响临床判断、患者信任以及护理交付中的责任对齐。
本文通过MedCity Influencers项目发表。任何人都可以通过MedCity Influencers在MedCity News上发表关于医疗保健业务和创新的见解。
【全文结束】