随着人工智能在医疗领域迅速发展，一个引人深思的问题浮现：当人工智能系统不仅达到甚至超越人类在医学诊断、治疗规划乃至共情能力方面的表现时，会发生什么？尽管人工超级智能的未来仍具推测性，但当前人工智能的发展轨迹要求医疗系统必须认真思考如何为潜在的技术变革做好准备。
为探讨这些关键问题，霍普金斯健康商业倡议召集了两位国内顶尖专家，共同审视人工智能在医疗领域的前景与风险。
特邀演讲嘉宾包括斯坦福大学老龄化健康研究中心及医学人文艺术项目的联合创始人兼联合主任林 Bryant Y.，以及西奈山医院人工智能与人类健康温德赖希学系主任、西奈山医疗系统首席人工智能官吉里什·纳德卡尼。霍普金斯健康商业倡议人工智能与医疗工作组联合主席丽莎·沃尔夫医学博士和戴廷龙博士主持了本次讨论。
"想象一个机器超越我们的时代，"戴廷龙表示，"机遇何在？风险何在？哪些必须保持人性？"
以下是专家关于人工超级智能与医疗未来的8点核心见解：
- 无论时间表如何不确定，医疗领导者都必须立即为超越人类表现的人工智能做好准备。
林博士表示："人工超级智能可能在五年、二十年或五十年内出现，甚至可能永远不会实现。"但纳德卡尼博士补充道，不确定性不应阻碍准备工作："我们这个被赋予患者照护责任的社区，应当像它已经存在那样做准备，这样才能应对任何可能性。"这种前瞻性方法确保无论技术如何发展，以人为本的医疗始终处于核心地位。
- 现有医疗系统缺乏适应超级智能人工智能的治理结构。
林博士指出："由于我们无法预知通用人工智能/人工超级智能的形成方式，可能无法在该环节设置控制系统。最直接的方法是规范系统能做什么——我们拦截输入输出，但这极具挑战性。"
纳德卡尼博士警告避免建立类似二战马奇诺防线的"固定堡垒式"治理："若构建固定治理结构，人工智能代理将轻易绕过，因为其伦理价值观与之不符。因此我们必须从固定结构转向更具适应性、基于证据、可观察的治理模式，并保留人工监督，确保医疗始终以患者和人类为中心。"
- 人工智能通过自动化偏见导致医疗专业人员技能退化与误用风险。
纳德卡尼博士指出两大关键挑战："技能退化指过度依赖人工智能导致临床能力下降，例如使用人工智能辅助的内窥镜医师后续发现息肉数量减少；技能误用即自动化偏见，表现为过度信任人工智能而丧失批判性思维。"这些风险凸显了在未来的混合系统中，医疗提供者的临床判断仍至关重要。
- 医疗基础设施与工作流程根本无法适应高级人工智能整合。
尽管技术进步显著，医疗系统在某些方面却严重过时。纳德卡尼博士指出："我十二三年前实习时用传呼机，现在仍有人使用；电子健康记录系统根本未为人工智能就绪，工作流程也因基于旧有非认知技术设计而不适配。"
这种基础设施差距成为有效采用人工智能的主要障碍，尤其美国存在大量差异化运作的医疗场景。"任何新事物的实施都会因工作流程差异而不同，"林博士强调，"实习时一半学习的是医学知识，另一半是医院特有流程。"
- 人工智能研究与临床实施间的转化鸿沟造成危险盲区。
纳德卡尼博士观察到研究与实践间的危险脱节："研究侧产生大量成果仅停留在论文阶段，临床操作侧则通过供应商部署未经充分验证安全性和有效性的系统。"
这意味着医疗系统可能在不明安全性的状态下运行人工智能算法，而最新技术成果却无法转化为实际应用。林博士补充："我们需要高质量、精心策划的平衡数据集——而非便利性数据集，监管机构在数字执法方面已严重滞后。"
- 医学教育必须演进以适应人工智能时代的新医疗范式。
林博士指出："我们正从知识型专业转向批判性思维型专业。但基础医学知识仍不可或缺——尤其面对复杂诊断时，不能仅依赖即时查询，必须将关键信息内化于心。"
- 人工智能有望通过知识置换时间缓解医生倦怠并提升患者护理。
纳德卡尼博士认为最迫切的近期收益在于"将医生时间归还给人际互动"："若将人工智能视为编码知识，它本质上是知识与时间的置换。环境人工智能可预防医生倦怠，预测性人工智能则提供可操作决策的时间窗口。"这种时间回收能力有望修复被行政负担侵蚀的医疗人文元素。
- 人工智能的可扩展性既是最大潜力所在，也是最危险风险。
纳德卡尼博士强调其双面性："最令人振奋的是影响数十万乃至数百万患者的能力；最令人担忧的也是这种规模效应——任何内在错误或偏见都将同步放大并波及海量人群。"
这凸显了持续监测与快速回滚问题系统的重要性，必须在广泛伤害发生前及时纠错。林博士补充警告：对人工智能的依赖可能加剧现有不平等，"一天内我可能接诊拥有顶级资源的亿万富翁和连手机都没有的患者，若缺乏设备或使用能力，这些技术将与你无缘。"
【全文结束】