去年春天，我们其中一人接到一位老朋友的来电。故事很熟悉：两位医生、一次核磁共振、一个在线AI工具、一堆文章——还有一个焦虑的问题。"每个人都告诉我不同的事情。AI说我可能需要手术。我该怎么办？"
我们认为，对于陷入这种常见困境的任何人，有一个关键回应："对你来说最重要的是什么？"
出现了一段长时间的沉默。
这种沉默是现代医疗保健中最重要的时刻之一——而这正是人工智能无法解决的问题。
在我们作为医生和研究人员的职业生涯中，我们一再明确发现，对于许多常见疾病，医学证据并不指向单一的"正确"答案。生物学上的差异往往很小。决定结果成功与否的关键在于选择是否适合做出选择的人。
有些背痛患者希望尽快回到体力要求高的工作中，即使这意味着手术。其他人则希望不惜一切代价避免手术，即使恢复时间更长。扫描结果可能看起来一样，但扫描背后的生活却不同。
随着人工智能更深入地介入日常健康决策，这一见解变得至关重要。
在我们关于AI和临床决策的研究中，我们研究了当系统被训练以优化医疗结果但对人类价值观视而不见时会发生什么。用通俗的话说，当今的AI非常擅长告诉你对于具有相似人口统计特征和病史的类似人群通常有效的治疗方法。但它在理解你想要保护、避免或优先考虑的事情方面能力要差得多。
这一点很重要，因为一些最常见且最昂贵的医疗决策并非纯粹生物学问题。低风险前列腺癌患者应该选择手术、放疗还是密切监测？心房颤动患者应该接受手术还是用药物管理病情？慢性膝痛或背痛患者是应该立即手术，还是尝试数月的物理治疗以避免手术？
在这些情况下，不同选项之间的医学差异通常很小或不确定。最关键的区别在于治疗是否符合患者的目标：对风险的容忍度、愿意接受恢复的程度、坚持长期治疗的能力，或者简单地说，他们想要过什么样的生活。AI系统可以计算概率，但无法确定这些概率对特定个人意味着什么。
在某些方面，人工智能可能比任何个体医生都更了解医学。它可以在几秒钟内综合数百万篇科学论文、临床研究和患者记录。然而，它对坐在它面前的人了解得非常少。AI不知道患者的目标、恐惧、责任、对风险的容忍度或对良好结果的个人定义。而且，因为它对患者或医生了解甚少，所以对两者之间的对话了解得更少——事实、价值观和信任在这里汇聚，为特定个人产生正确的决策。
第二个患者故事让我们明白了这一点。一位退休教师在AI症状检查器标记出心律异常并"倾向"于侵入性手术后被转诊。患者来时很害怕，确信只有一条正确的路径。当我们交谈时，很明显最重要的是避免长时间恢复，并保持足够健康以去探望孙子孙女。
药物治疗和监测——不那么戏剧性，但有充分证据支持——更适合这些目标。AI并没有错，它只是不知道什么才是重要的。这一盲点并非微不足道。大约四分之一的美国医疗保健支出流向了患者偏好显著影响结果的决策。当这些偏好被忽视——无论是被人类还是算法——护理就会错位。这可能导致不必要的手术、依从性差、后悔以及在没有更好健康的情况下成本上升。
那么，当应用程序、门户或"智能"工具推荐某种行动方案时，消费者应该怎么做？
从三个问题开始。
首先："最适合谁？"如果一个工具说一个选项是最好的，问问它是指平均而言最好——还是指最适合有你优先事项的人。
其次："这个系统对我了解什么？"AI可以看到实验室值和影像结果，但它看不到你的工作、家庭责任、恐惧或你想要恢复的东西。
第三："如果我等待或选择不同会怎样？"许多重要的医疗决策并非紧急情况。当选项相近时，花时间反思通常是良好护理的一部分。
人工智能正在成为医学中的强大伙伴。它可以帮助解释选项、揭示证据并减少混淆。但它应该为人类决策提供信息，而不是取代它们。
AI可能比任何医生都更了解医学。
但它对任何患者的了解都少得多。
它对两者之间的对话了解最少。
你医疗保健中最重要的变量不在任何算法中。那就是你。
詹姆斯·N·温斯坦是外科医生，曾任达特茅斯健康中心首席执行官。他是西北大学凯洛格管理学院的临床教授，也是开发AI系统的微软健康未来全球负责人。奥甘·古雷尔是德克萨斯大学阿灵顿分校的医生和助理教授，他研究AI、因果推断和患者决策。
【全文结束】