认知偏差占医疗可预防错误的很大一部分，每年导致大量患者的发病率和死亡率。随着大型语言模型（LLMs）被引入医疗和临床决策，这些系统存在继承甚至放大现有偏差的风险。本文探讨了影响LLM辅助医学的认知偏差以及这些技术在应对这些局限性方面的优势。
在现代医疗中，认知偏差对有效的临床决策构成了持续且普遍的挑战。这些无意识的思维模式可能导致医生误诊、延误治疗，并最终损害患者的治疗结果。诊断和医疗错误每年在美国造成多达4万至8万例可预防的死亡，其中40%到80%的案例与认知偏差有关。当大型语言模型被引入医疗和临床决策时，这些系统可能不仅继承这些偏差，还可能进一步放大它们。然而，它们在上下文和自适应推理方面的能力可能为检测和减轻认知偏差提供独特的机会。
临床LLMs中认知偏差的关键原因
影响临床LLM系统的偏差可能出现在多个阶段，包括数据收集和表示中的偏差、算法设计和训练中的模型相关偏差，以及实际使用和反馈中的部署相关偏差。认知偏差——这里指影响临床决策的系统性理性推理偏差——可以在每个阶段相互作用并显现。例如，这些偏差可能通过不完整或偏斜的训练数据进入LLM系统，或者由于算法中纳入了有缺陷的启发式规则，甚至在放大现有医疗差异的情境中部署。
常见的几种显著认知偏差包括：
- 暗示性偏差（优先考虑用户同意而非独立推理）可能导致LLMs在面对具有说服力但不准确的提示时采纳错误答案。这可能是由于强化学习方法优化了用户满意度指标，或者训练方法无意中更奖励与用户输入的一致性而非事实准确性。
- 可用性偏差（依赖最容易回忆或最常见的信息）可能影响LLM驱动的决策支持，尤其是在训练数据包含过度代表的临床模式或患者档案时。模型可能会对其语料库中的常见示例赋予不成比例的权重。
- 确认偏差（寻找支持初始假设的证据）可能在临床LLMs的开发和部署阶段出现。在开发过程中，当训练标签强化现有的临床假设或模型评估指标偏向于与现有诊断模式一致时，确认偏差可能被编码。在部署阶段，这种偏差可能在人机交互中显现，当界面设计突出显示与临床医生初步印象相符的输出时尤为明显。
- 框架偏差（呈现方式或措辞对决策的影响）可能影响LLM启用的系统，当相同的临床信息以不同方式呈现时，可能导致不同的模型输出。
- 锚定偏差（依赖早期信息进行决策）可能在LLM启用的诊断中出现，当早期输入或输出数据成为LLM后续推理的认知“锚点”时尤为显著。
探索LLMs作为减轻偏差工具的潜力
尽管LLMs容易受到多种重要的认知偏差影响，但它们相较于传统AI系统可能提供更高的灵活性，因为它们能够检查自己的输出、应用结构化评估标准并相应调整建议。它们的自我纠正能力、临床上下文整合能力和透明的逐步推理可能为检测和减少临床决策中的认知偏差创造机会。
自我反思
通过针对每项推荐的结构化内部审查流程，LLMs展示了系统性检测其评估可能因常见推理错误而出现偏差的潜力。例如，在临床模拟中，要求GPT-4辩论并修订其诊断印象的顺序提示框架减少了锚定错误，并提高了在易误诊病例上的准确性。
上下文推理
LLMs的上下文推理能力——即一次性读取整个病历、患者的纵向历史和相关指南，并将每个细节与其他细节关联起来解读——可能有助于发现和纠正认知偏差。通过分析情感、内容结构、追踪结论如何在不同互动中演变，并将临床决策与循证实践进行基准比较，LLMs可以帮助揭示微妙的偏差语言、早期直觉主导后期记录的情况，以及表明过早关闭的遗漏。
透明见解
LLMs通常能够为每个答案生成“推理轨迹”，声称可以为审稿人提供逐步推导结论的地图。这些透明的轨迹可以作为审计钩子，供其他工具（或临床医生）扫描以检查事实准确性、逻辑合理性和偏差。
挑战与局限
尽管具有潜力，自我反思的LLMs在实施过程中面临挑战。通用的自我评估框架可能不足以缓解所有类型的推理错误，而为个体化临床任务开发有效框架可能需要大量资源。此外，LLMs的偏差可能表现为细微的上下文或统计模式，用传统的审计方法可能难以检测。当前评估LLM偏差和性能的文献大多依赖标准化或模拟的临床案例，而非真实世界的临床互动或数据，因此对实际临床环境的普适性提出了重要问题。
结论
LLMs通过自我反思、结构化推理框架和上下文感知分析，为临床环境中认知偏差的检测提供了独特方法，但在将其整合到既定的医疗工作流程和决策过程中仍存在实际挑战。AI与临床推理的交叉创造了一个不断演变的领域，传统偏差可能被转化而非消除，为研究新型认知推理策略开辟了道路。
(全文结束)
