去年春天，我们其中一人接到一位老朋友的电话。故事很熟悉：两位医生、一次磁共振成像检查、一个在线人工智能工具、一堆文章——还有一个焦虑的问题。"每个人告诉我的都不一样。人工智能说我可能需要手术。我该怎么办？"
我们认为，对于陷入这种极为常见困境的任何人，一个关键回应是："对你来说最重要的是什么？"
电话那头是一段长长的沉默。
这种沉默是现代医疗中最重要的时刻之一——而这正是人工智能永远无法解答的问题。
在我们作为医生和研究人员的职业生涯中，我们反复发现，对于许多常见病症，医学证据并不指向单一的"正确"答案。生物学上的差异往往很小。决定治疗效果成败的是选择是否符合做出决定的人。
有些背痛患者希望尽快重返需要大量体力的工作，即使这意味着需要手术。另一些人则希望不惜一切代价避免手术，即使恢复时间会更长。扫描结果可能看起来一样，但扫描结果背后的生活却各不相同。
随着人工智能更深入地介入日常医疗决策，这一认识变得至关重要。
在我们关于人工智能和临床决策的研究中，我们研究了当系统被训练来优化医疗结果但对人类价值观视而不见时会发生什么。简单来说，当今的人工智能非常擅长告诉你，对于像你这样具有相似人口统计特征和病史的人，通常什么方案有效。但它远不能理解你想要保护、避免或优先考虑的是什么。
这一点很重要，因为一些最常见且最昂贵的医疗决策并非纯粹基于生物学。对于低风险前列腺癌患者，应该选择手术、放疗还是密切监测？对于心房颤动患者，应该接受手术还是通过药物管理病情？对于慢性膝痛或背痛患者，是应该立即手术，还是尝试数月的物理治疗以避免手术？
在这些情况下，各种选择之间的医学差异往往很小或不确定。最关键的区别在于治疗是否符合患者的目标：对风险的容忍度、接受康复的意愿、坚持长期治疗的能力，或者简单地说，他们想过什么样的生活。人工智能系统可以计算概率，但无法确定这些概率对特定个人意味着什么。
在某些方面，人工智能可能比任何个别医生都更了解医学。它可以在几秒钟内综合数百万篇科学论文、临床研究和患者记录。然而，它对坐在它对面的人了解得惊人地少。人工智能不知道患者的目标、恐惧、责任、对风险的容忍度或对良好结果的个人定义。而且，因为它对患者或医生都知之甚少，所以它对两者之间的对话了解得更少——正是在事实、价值观和信任交汇的地方，才能为特定人产生正确的决策。
第二个患者故事让我们明白了这一点。一位退休教师在接受基于人工智能的症状检查器检查后被转诊，该检查器标记了心律异常并"倾向于"采取侵入性手术。患者带着恐惧来到诊所，确信只有一条正确的路径。当我们交谈时，很明显最重要的是避免长时间恢复并保持健康，以便能够去看望孙辈。
药物治疗和监测——不那么引人注目，但有充分证据支持——更适合这些目标。人工智能并没有错，它只是不知道什么才是重要的。这个盲点并非微不足道。美国大约四分之一的医疗支出都流向了患者偏好显著影响结果的决策。当这些偏好被忽视——无论是被人还是算法忽视——医疗就会变得不匹配。这可能导致不必要的手术、依从性差、后悔以及在没有更好健康状况的情况下成本上升。
那么，当应用程序、门户网站或"智能"工具建议采取某种行动方案时，消费者应该怎么做？
从三个问题开始。
第一个问题："最适合谁？"如果一个工具说某个选项最佳，请询问它是指平均而言最佳——还是指对拥有你这种优先事项的人最佳。
第二个问题："这个系统对我了解多少？"人工智能可以看到实验室数值和影像结果，但它看不到你的工作、家庭责任、恐惧，或者你想要恢复到什么状态。
第三个问题："如果我等待或选择不同会怎样？"许多重要的医疗决策并非紧急情况。当选择很接近时，花时间思考往往是良好医疗的一部分。
人工智能正在成为医学中的强大伙伴。它可以帮助解释选项、揭示证据并减少困惑。但它应该为人类决策提供信息，而不是取代它们。
人工智能可能比任何医生都更了解医学。
但它对任何患者了解得都少得多。
而且它对两者之间的对话了解得最少。
你医疗保健中最重要的变量不在任何算法中。那就是你。
詹姆斯·N·韦恩斯坦是一名外科医生，也是达特茅斯健康中心的前首席执行官。他是西北大学凯洛格管理学院的临床教授，也是开发人工智能系统的微软全球健康未来部门负责人。奥甘·古雷尔是一名医生，也是德克萨斯大学阿灵顿分校的助理教授，他在该校研究人工智能、因果推断和患者决策。
【全文结束】