人工智能将改变医疗保健,但未必会使其更公平
如果医疗保健不再是普遍权利,而是个人升级呢?保罗·阿姆斯特朗问道。
医疗行业正进入自抗生素时代以来最激进的转型——也可能最危险。人工智能不再只是扫描X光片或安排预约。机器人系统开始以人类无法持续保持的精准度进行手术。生成式模型正从分子蓝图中设计药物。承诺更长久、更强健工作寿命的外骨骼正从原型走向试点。埃隆·马斯克谈论着这样的未来:AI外科医生无休止地手术,机器推理支持每一个临床决策。这样的未来可以扩大可及性、延长健康年数并减少痛苦——而这样的未来也同样容易产生《极乐空间》式的鸿沟:优化留给富人,社会其余部分获得算法最低配,或者,呃,基因最低配。
乐观承诺与分化风险
医疗提供者、保险公司和政府都在大力押注乐观版本。预测性诊断可以提前数年发现癌症。DeepMind的AlphaFold绘制了蛋白质结构,将药物研发时间线从数十年缩短到数月。机器学习分诊系统处理临床数据的速度是任何人类团队无法匹敌的。麦肯锡估计,到2030年,AI可为全球医疗系统每年节省超过1万亿美元。英国国家医疗服务体系已在投资AI放射学工具和自动分诊模型,以缓解长期压力。更健康的人口和更轻的预算对任何政府都是诱人的等式。
部署一开始就会出现明显分化。数据塑造每一个AI医疗系统,而大多数数据集来自富裕、城市、西方患者。少数群体和低收入社区在训练模型的材料中代表性不足。《自然医学》的一篇综述发现,大多数商业医疗AI工具在种族、性别和社会经济背景方面表现出显著性能差距。早期检测对某些群体成为常态、对另一些群体成为可选的世界,不是缩小健康不平等的世界。这样的系统会加深不平等。
私营部门加速分化
私营部门参与加速分化。Neuralink、Figure和一批机器人公司正在开发脑机接口、人形护理助手和康复技术,这些将首先进入高端市场。波士顿动力正在探索医院物流自动化。制药公司现在运营AI优先的发现管道,模型预测候选药物的成功并推荐实验室实验,无需人类设计。投资者向这些企业投入数十亿美元,因为商业逻辑直截了当。增强可能比公平更有利可图,优化很可能比可及性更好卖。
医疗与商业将发生变化
企业方面正在浮现新叙事。医疗保健不再是普遍权利,而是个人升级。面向老龄工人的外骨骼被营销为生产力设备。可穿戴医疗模型承诺实时行为提示以达到最佳表现。雇主将早在国家系统之前就开始补贴增强技术,就像他们对可穿戴设备和远程测量所做的那样。可及性无疑将从最脆弱者漂向最有价值者。
监管难以跟上
监管无法跟上步伐。英国MHRA和美国FDA正在起草AI医疗器械框架,但治疗、增强和监控之间的边界已经模糊。一个机器人摄入数百万台先前手术后执行程序,立即引发责任问题。临床医生无法有意义地监督一个从全球数据持续学习的系统。医院无法为另一个司法管辖区构建的模型产生的错误承担责任。传统医疗问责制不适用于分布式智能。
为什么企业需要未来十年的医疗战略
战略准备需要的不仅仅是乐观。医疗保健正在成为一个恰好治疗患者的数据产业。保险公司、制药巨头和提供者越来越销售预测而非治疗。谁拥有患者模型,谁就将主导下一个十年的医疗经济学。严肃的国家战略应优先考虑治理而非自动化。每个数据集都应对人口平衡进行审计。应为临床培训材料规定多样性阈值。公共研究机构应与私营公司合作,确保国家人口在训练过程中得到代表,而不仅仅是其中最富裕的角落。公平将在立法之前很久就被编程。
董事会面临新一类风险。算法伦理必须与财务审计同等重要。偏见检测、模型透明度和数据来源应被视为竞争优势。领英可能即将发现这一点。一旦首次重大误诊被追溯到不透明模型,对数字医疗的信心就会崩溃。披露训练数据和临床验证的公司将赢得封闭系统无法匹敌的公众信任。
更深层的问题:AI优化目标,而非伦理
所有这一切背后有一个更深层的问题。医疗AI常常将自己描绘为拯救生命的技术。每一个重大突破都伴随着庆祝性头条。隐藏在这种叙事中是一个更艰难的事实。AI系统为优化目标,而非伦理。一个预测模型可能得出结论:对一个人群的预防比对另一个的治疗利润更低。一个个性化药物算法可能推荐有利于富裕市场的发展路径。一个分诊系统可能按效率而非公平分配。这些结果没有一个代表医学。全部都代表以代码表达的政策。换句话说,我们没有从种族主义洗手液分配器中学到任何东西。简言之,我们需要在算法变得更好之前变得更好。
那么企业现在能做什么来准备?
医疗保健将在下一个十年变得面目全非。进步不保证公平。今天正在构建的系统将决定谁获得早期干预、谁获得增强、谁留下来接受基线护理。忽视这一点的领导者将继承他们无法控制的后果。真正的选择不是人类医生与机器医生之间。真正的选择是自动化共情与工程化不平等之间。
企业现在需要将医疗AI视为供应链转变和声誉风险倍增器。董事会应绘制员工健康、客户数据或产品安全与AI驱动决策相交的每一个点。治理应提升到与财务监督相同的水平。公司应对供应商进行压力测试,要求训练数据集透明,并模拟二阶效应,如保费上涨、劳动力分层或增强工具获取不平等造成的生产力差距。等待监管者或供应商定义安全实践的公司将落后。战略优势来自及早行动、发布明确的伦理承诺、投资团队素养,并将公平纳入产品设计而非追溯补丁。对每位高管、政策制定者和投资者的第一张处方应该是大剂量谦逊。机器智能将拯救生命,但前提是围绕它的系统被设计成从一开始就公平分配这些利益。我们已经看到如果同样的人改编同样剽窃来的代码会发生什么。《极乐空间》默认不是必然的,而是我们需要与埃隆及其同伙斗争才能实现的选择。一个将健康视为结构性设计而非慈善的社会有机会利用AI缩小差距而非巩固差距。英国有先发优势,可以在这个领域领先。让我们希望斯特里廷及其同僚准备好迎接挑战,并做出一些快速转向。
【全文结束】

