新研究表明，人工智能在医疗保健领域的作用可能远比更快分析和更个性化护理的承诺要复杂得多。虽然人工智能系统在某些情况下可以加强护理，但如果引入时缺乏谨慎设计和有效监管，它们也可能削弱信任、自主权和沟通。
这项发表在《AI与社会》期刊上的研究《AI与共享决策：一项系统性综述》，探讨了AI是否真的能够支持医疗保健中的共享决策，或者是否可能在患者和医生之间创造新的技术控制层。该论文基于对主要学术数据库进行PRISMA系统检索后确定的78项研究，描绘了AI在医学最敏感领域之一——关于治疗、预后和患者偏好的决策——所带来的机遇和尚未解决的风险。
共享决策是以患者为中心的护理的核心原则，它建立在这样一种理念上：医疗选择不应仅由临床证据或医生判断决定，而应通过患者和临床医生交换信息、讨论选项，并使护理与患者自身的价值观和优先事项相一致的过程来实现。该综述认为，AI正迅速进入这一领域，并在肿瘤学、骨科、心脏病学及其他临床领域受到越来越多的关注。然而，它也警告说，AI系统仅仅因为能够生成建议或总结医疗数据，并不会自动与共享决策的目标兼容。
AI正在扩展其在医疗共享决策中的作用
论文确定了AI在共享决策中的一系列广泛作用，包括帮助解释治疗方案、为患者就诊做准备、改善关于风险和益处的沟通、支持慢性病管理，以及协助患者教育和自我监测。在这些应用中，AI通常被作为临床讨论的数字伴侣，帮助人们理解复杂的信息，而这些信息在短暂的医疗就诊中可能难以消化。
在高压力护理环境中，这种前景尤其具有吸引力，因为临床医生面临时间限制、文档负担以及诊断和治疗方案日益复杂的问题。根据该综述，AI可以通过承担某些非临床任务（如总结、转录或文档处理）来提供帮助，这可以为医患之间的人类互动留出更多时间。这是支持AI辅助共享决策最实际的论点之一：不是为了取代人类对话，而是为了创造更好的对话空间。
该综述还强调了AI比传统决策辅助工具更深度地个性化信息的能力。标准的决策支持材料通常提供一般性的治疗比较或平均风险估计。相比之下，AI工具在某些情况下可以根据个体患者特征、病史和明确表述的优先事项来调整建议和解释。作者指出，文献中综述的一些系统至少在原则上被设计为将患者的预后优先事项和价值观纳入推荐过程。这种定制信息的能力是AI被视为潜在变革性工具（而非仅仅提高效率）的原因之一。
论文表明，这种个性化可以使临床对话更具相关性和可理解性。面临艰难抉择的患者往往需要的不仅仅是原始概率或标准治疗描述。他们需要支持来将这些选项与日常生活、个人风险承受能力、家庭责任、长期目标和情感关切联系起来。该综述指出，当AI围绕患者的真实决策环境而非仅仅抽象临床终点进行设计时，它可能有助于使这些讨论更具体、更易于理解。
这在肿瘤学和心脏病学等专业领域尤其重要，因为这些领域的治疗决策可能涉及生存、副作用、生活质量、未来功能以及不确定性之间的权衡。在这种情况下，共享决策不仅仅是给患者提供更多信息，而是帮助他们理解不同的结果对他们个人意味着什么。该综述认为，AI可以支持这一目标，但前提是它的构建必须与患者的价值观协同工作，而不是将这些价值观视为统计优化的次要因素。
最大的风险是不透明性、偏见和一种新型的“数字家长主义”
关键担忧之一是使用“黑箱”AI系统，其推理过程无法被患者清晰理解，甚至临床医生也可能无法完全理解。该综述认为，如果一个治疗建议来自一个几乎无法提供有意义解释的系统，那么共享决策的核心可能会受到损害。如果患者和他们的医生都无法证明为什么某个选项优于另一个，患者就无法充分参与决策。
这种担忧超出了狭义的技术可解释性。作者认为，医疗AI不仅要产生可理解的输出，还要产生能够根据患者自身情况和价值观进行辩护的输出。这是一个更高的标准。一个模型可以解释推荐是由风险评分、影像模式或预测生存曲线驱动的，但仍然可能无法解决该推荐是否符合患者实际希望从护理中获得什么的问题。在共享决策中，辩护与预测同等重要。
该综述还对所谓的“电脑最懂”情景提出了重大警告。许多AI系统主要围绕临床目标设计，例如疾病控制、风险降低或生存预测。这些目标可能很重要，但它们并不自动反映对特定患者最在意的事情。患者可能将独立性置于长寿之上，将症状缓解置于激进治疗之上，或者将家庭义务置于统计上最优的干预措施之上。如果AI系统未能纳入这些更软但决定性的因素，它们可能会在看似中立和精确的外表下，强化一种家长式的护理模式。
这种危险因算法输出经常被赋予的权威性而进一步放大。在医疗领域，基于数字或模型的推荐可能带有强烈的客观性光环，即使它们是由不完整的数据集、有偏见的假设或有限的价值框架所塑造。该综述指出，这可能会影响临床医生和患者，潜在地缩小而不是丰富对话。AI非但不能为深思熟虑开辟空间，反而可能通过使一个选项在技术上显得优越而关闭它，即使患者的个人优先事项指向别处。
偏见、可靠性、隐私和问责制也成为主要问题。作者指出，有缺陷或过时的信息、有偏见的训练数据以及薄弱的治理结构都可能损害对AI支持决策的信任。在共享决策中，信任并非一个边缘问题。它是患者披露偏好、提出问题并接受不确定性的基础。如果AI系统显得不公平、不负责任或难以理解，它们可能会破坏共享决策所依赖的关系基础。
该综述同样明确指出，AI无法像人类临床医生那样提供同理心、情商或道德敏感性。关于癌症治疗、临终关怀、手术或慢性病管理的敏感决策往往涉及恐惧、悲伤、矛盾心理和不断变化的偏好。这些是不能仅靠推荐引擎解决的问题。因此，作者强调，患者和临床医生通常倾向于让AI保持辅助角色，由医生保留最终责任，并根据每个患者的情况调整技术支持的建议。
AI在医疗保健中的未来将取决于设计、共创和临床责任
许多当前的AI系统并非将共享决策作为主要设计目标来构建。相反，它们通常是为预测、分诊、分类或工作流优化而开发的，然后被讨论成似乎可以自然地融入以患者为中心的护理。论文认为这种假设是有缺陷的。支持共享决策需要明确考虑沟通、患者价值观、信任、公平性和临床会面的社会现实的设计选择。
作者呼吁在开发之初就进行更强有力的共同设计，涉及患者、临床医生和其他利益相关者。这意味着AI工具不应作为仅围绕技术便利性构建的成品被引入共享决策。它们应该由那些将在情感困难且伦理意义重大的对话中依赖它们的人来塑造。该综述表明，如果没有这个流程，AI系统可能会继续反映机构优先事项而非患者需求。
培训是另一个主要问题。论文强调，医疗专业人员需要接受更好的教育，了解AI工具的工作原理、其局限性所在，以及如何向患者解释其作用。一个无法解释或传达AI生成推荐含义的临床医生，不太可能以加强共享决策的方式使用它。从这个意义上说，挑战不仅在于技术素养，还在于沟通能力。AI支持的护理仍将依赖于临床医生能否将输出转化为患者可以信任和理解的话语。
该综述还暗示，监管和机构治理需要迅速跟上。如果要负责任地将AI整合到共享决策中，医疗系统将需要关于透明度、问责制、患者同意、隐私保护以及临床医生与机器之间职责划分的更明确规则。
【全文结束】