去年春天，我们中的一位接到了老朋友打来的电话。故事很熟悉：两位医生、一次核磁共振、一个在线AI工具、一堆文章——以及一个焦虑的问题：“每样东西都告诉我不同的结果。AI说我可能需要手术。我该怎么办？”
我们认为，在面对这个如今司空见惯的困境时，关键回应只有一个：“对你而言什么最重要？”
电话那头沉默了许久。
这段沉默是现代医疗中最关键的时刻之一——而这恰恰是人工智能无法回答的问题。
在多年的医生和研究人员生涯中，我们反复清晰地发现：对于许多常见疾病，医学证据并不会指向某一个“正确”答案。生物学上的差异往往很小。真正决定结果成功与否的，是选择是否适合做出这个选择的人。
有些背痛患者希望尽可能快地回到体力要求高的工作岗位，哪怕需要手术；另一些人则几乎不惜一切代价避免手术，即使康复需要更长时间。影像扫描结果可能相同，但扫描背后的生活却截然不同。
随着人工智能日益深入日常健康决策，这一洞见变得至关重要。
在我们关于AI与临床决策的研究中，我们研究了当系统被训练来优化医疗结果、却对人类价值观视而不见时会发生什么。通俗地说，今天的AI非常擅长告诉你：对于和你具有相似人口学特征和病史的人来说，通常什么方案有效。但它远不能理解你想要保护、避免或优先考虑什么。
这之所以重要，是因为一些最常见、最昂贵的医疗决策并非纯粹生物学问题。低风险前列腺癌患者应该选择手术、放疗还是密切监测？房颤患者应该接受手术还是用药物控制病情？慢性膝盖或背痛患者应该现在就手术，还是先尝试数月物理治疗，看看能否避免手术？
在这些情况下，不同选项之间的医学差异往往很小或不确定。而真正起到最大作用的，是治疗方案是否与患者的目标一致：对风险的承受能力、康复意愿、坚持长期治疗的能力，或者仅仅是他们想过什么样的生活。
AI可以计算概率，但它无法确定这些概率对某个特定的人意味着什么。
在某些方面，人工智能可能比任何一位医生都懂得更多的医学知识。它可以在几秒钟内综合数百万篇科学论文、临床研究和患者记录。然而，它对坐在它面前的那个人却知之甚少。AI不知道患者的个人目标、恐惧、责任、风险承受能力，或者他们自己对“好结果”的定义。而且，由于它对患者和医生都所知有限，它更不了解他们之间的对话——那个事实、价值观和信任交汇在一起，为特定个体做出正确决策的地方。
第二个患者故事更清楚地说明了这一点。一位退休教师被转诊，因为一款基于AI的症状检查程序标记出心律异常，并“倾向于”进行侵入性手术。患者非常害怕，确信只有一条正确的路。当我们交谈时，很明显，她最看重的是避免漫长的康复期，保持健康以便能去探望孙辈。药物治疗和监测——不那么戏剧化，但同样有充分证据支持——更符合这些目标。AI并没有错，它只是不知道什么对这个人最重要。
这个盲点并不微不足道。美国大约四分之一的医疗支出都流向了那些患者偏好会对结果产生实质性影响的决策。当这些偏好被忽视——无论是被人还是被算法忽视——医疗就会偏离方向。这可能意味着不必要的手术、依从性差、后悔，以及成本上升而健康却没有改善。
那么，当一款应用程序、门户网站或“智能”工具推荐某种行动方案时，消费者应该怎么做？
从三个问题开始。
第一：“对谁最好？”如果一个工具说某个选项最好，请问它是指“对平均情况最好”，还是对具有你优先考虑因素的人最好？
第二：“这个系统不知道关于我的什么？”AI能看到化验值和影像结果，但它看不到你的工作、家庭责任、恐惧，或者你想要回归的生活。
第三：“如果我等待或做出不同选择，会发生什么？”许多重要的医疗决策并非急诊。当选项接近时，花时间反思往往是良好医疗的一部分。
人工智能正在成为医学领域强大的合作伙伴。它可以帮助解释选项、呈现证据并减少困惑。但它应该服务于人类决策，而不是取代它们。
AI可能比任何医生都懂更多的医学知识。
但它对任何患者的了解都少得多。
而最不了解的，是患者与医生之间的对话。
你的医疗中最关键的变量不在任何算法中。它就是你。
詹姆斯·N·温斯坦是外科医生，曾担任达特茅斯健康中心首席执行官。他是西北大学凯洛格管理学院临床教授，以及微软健康未来部门全球主管（微软开发AI系统）。奥甘·古雷尔是医生，德克萨斯大学阿灵顿分校助理教授，研究方向为AI、因果推断和患者决策。
【全文结束】