想象一下，你走进医生办公室，感觉身体不适——而医生不需要翻阅你的病历或等待几天的检查结果，而是可以立即从你的健康记录、基因档案和可穿戴设备中提取数据，以帮助诊断问题所在。
这种快速诊断正是人工智能在医疗保健领域的一大承诺。该技术的支持者表示，在未来几十年中，人工智能有望拯救数十万甚至数百万生命。
此外，一项2023年的研究发现，如果医疗行业大幅增加人工智能的使用，每年最多可节省3600亿美元。
尽管人工智能已经几乎无处不在，从智能手机到聊天机器人，再到自动驾驶汽车，但其在医疗保健领域的影响力仍然相对较低。
2024年美国医学会的一项调查显示，66%的美国医生曾在某种程度上使用过人工智能工具，高于2023年的38%。但其中大部分用于行政或低风险支持。尽管2024年有43%的美国医疗机构增加了或扩展了人工智能的使用，但许多实施仍处于探索阶段，尤其是在医疗决策和诊断方面。
我是研究人工智能和医疗保健分析的教授和研究人员。我将尝试解释为什么人工智能的发展将是渐进式的，以及技术限制和伦理问题如何阻碍其在医疗行业的广泛采用。
诊断不准确、种族偏见
人工智能擅长在大量数据中寻找模式。在医学中，这些模式可能预示着疾病的早期迹象，这是人类医生可能忽略的——或者可以基于具有类似症状和背景的其他患者的反应来指示最佳治疗方案。最终，这将带来更快、更准确的诊断和更个性化的护理。
人工智能还可以通过分析工作流程、预测人员需求和安排手术，帮助医院更高效地运行，从而最有效地利用手术室等宝贵资源。通过简化原本需要数小时人工完成的任务，人工智能可以让医疗保健专业人员将更多时间用于直接的患者护理。
但尽管人工智能功能强大，它也可能会犯错。虽然这些系统是基于真实患者的数据进行训练的，但当遇到不寻常的情况，或者数据与面前的患者不完全匹配时，它们可能会遇到困难。
因此，人工智能并不总是能提供准确的诊断。这个问题被称为算法漂移（algorithmic drift）——当人工智能系统在受控环境中表现良好，但在现实世界中失去准确性。
种族和族裔偏见是另一个问题。如果数据包含偏见，因为它没有包含足够多的特定种族或族裔群体的患者，那么人工智能可能会为这些群体提供不准确的建议，从而导致误诊。一些证据表明这种情况已经发生。
数据共享问题、不切实际的期望
医疗保健系统的复杂性如同迷宫一般。将人工智能整合到现有工作流程中的前景令人望而生畏；引入像人工智能这样的新技术会扰乱日常运作。工作人员需要额外的培训才能有效使用人工智能工具。许多医院、诊所和医生办公室根本没有时间、人员、资金或意愿去实施人工智能。
此外，许多尖端的人工智能系统运作如同“黑箱”。它们会生成建议，但即使是开发人员也可能难以完全解释其背后的逻辑。这种不透明性与医学的需求相冲突，因为医学中的决策需要有充分的理由。
但开发者往往不愿意披露其专有算法或数据来源，既是为了保护知识产权，也是因为其复杂性难以简化。缺乏透明性加剧了从业者的怀疑，从而减缓了监管审批并削弱了人们对人工智能输出的信任。许多专家认为，透明性不仅是伦理上的需求，也是在医疗环境中采用人工智能的现实需要。
还存在隐私问题；数据共享可能会威胁患者机密。为了训练算法或做出预测，医疗人工智能系统通常需要大量患者数据。如果处理不当，人工智能可能会泄露敏感的健康信息，无论是通过数据泄露还是患者记录的非预期使用。
例如，一位临床医生使用基于云的人工智能助手撰写笔记时，必须确保未经授权的第三方无法访问该患者的数据。美国《健康保险可携性和责任法案》（HIPAA）等法规对医疗数据共享施加了严格规则，这意味着人工智能开发者需要建立强有力的保障措施。
隐私问题还延伸到患者信任：如果人们担心自己的医疗数据可能被算法滥用，他们可能会更不愿意透露信息，甚至拒绝接受人工智能引导的护理。
人工智能的宏伟承诺本身就是一个巨大的障碍。人们的期望非常高。人工智能常被描绘成一种神奇的解决方案，可以一夜之间诊断任何疾病并彻底改变医疗保健行业。这种不切实际的假设往往会导致失望。人工智能可能不会立即兑现其承诺。
最后，开发一个运行良好的人工智能系统涉及大量的试验和错误。人工智能系统必须经过严格的测试，以确保其安全有效。这需要数年时间，即使系统获批后，随着其遇到新的数据类型和现实情况，可能仍需要进行调整。
渐进式变革
如今，医院正在迅速采用人工智能“记录员”，它们可以在患者就诊期间倾听并自动起草临床笔记，减少了文书工作，让医生有更多时间与患者相处。调查显示，现在已有超过20%的医生使用人工智能来撰写进展笔记或出院摘要。人工智能也正在成为行政工作中的一股静默力量。医院部署人工智能聊天机器人来处理预约安排、分诊常见患者问题，并实时翻译语言。
人工智能在临床中的应用存在但较为有限。在一些医院，人工智能成为放射科医生的“第二只眼睛”，寻找疾病的早期迹象。但医生们仍然不愿意将决策权交给机器；目前只有大约12%的医生依赖人工智能提供诊断帮助。
简而言之，医疗保健行业向人工智能的过渡将是渐进式的。新兴技术需要时间成熟，而医疗保健的短期需求仍然超过长期收益。与此同时，人工智能治疗数百万人并节省数万亿美元的潜力仍在等待释放。
本文根据知识共享许可协议从The Conversation转载。阅读原文。
【全文结束】
