我第一次看到人工智能系统分析扫描结果并在几秒钟内诊断出医疗状况时，感到非常震惊。医生需要花费更长时间才能完成的工作，现在似乎可以瞬间完成，那一刻感觉医学已经进入了未来。然而，当我了解到使该系统具备这种能力的背后原因时，这种惊奇感很快就消失了：多年来悄悄收集的数千份患者记录，其中许多可能并未明确获得患者同意用于这种方式。这不再令人印象深刻，也不再显得无辜。它提出了一个更难的问题：如果一种旨在治愈的工具是以信任的破裂开始的，那么它还能合乎伦理吗？
人工智能在医疗保健中的前景
人工智能正在迅速重塑医疗保健。医院和诊所正在应用人工智能来更早地诊断疾病、处理大量数据、协助诊断，甚至支持治疗选择。一方面，这将是纯粹的进步：加速护理、减少错误、改善结果。但医疗保健不仅是一个技术系统，也是一个道德系统。一旦人工智能开始依赖高度个人信息、决策过程缺乏透明度，并在不同群体中表现不均，讨论将不再仅仅是关于效率。它还成为隐私、同意、责任和信任的问题。
当代医疗保健产生大量数据，包括实验室报告和影像扫描、处方、基因谱和电子健康记录。在此环境中，人工智能的吸引力在于它能够以人类无法企及的水平和速度识别这些数据中的模式。在最好的情况下，这意味着更早的诊断、更个性化的护理，以及对过度工作的医疗工作者的协助。难怪许多人将人工智能视为现代医学中最有前途的工具之一。
伦理困境的开始
然而，医疗保健人工智能的优势并不在于技术本身，而在于一个不那么明显的东西：数据。这些系统是在大量患者数据上训练的，如病史、测试结果、诊断、处方，甚至心理健康或基因数据。这就是伦理困境的开始。人工智能可以提供更好的医疗保健，但它通过访问个人能够提供的最个人信息来实现这一目标。这种访问可能以患者不完全理解的方式发生，也可能没有获得明确同意。
当同意不再有意义时
大多数患者认为他们的健康数据会留在诊所或医院的围墙内，受到隐私法规的保护，只与直接参与他们护理的人员共享。健康数据可以远远超出诊所或医院的范围。它可能被研究人员、软件供应商和技术公司访问，其中许多患者从未直接与之互动过。即使在这些数据被匿名化或用于研究的情况下，患者认为正在发生的事情与实际发生的事情之间的脱节也造成了一个重大的伦理问题：当人们实际上不知道他们的数据如何被使用时，同意就变得毫无意义。
黑箱问题
问题不仅在于患者通常不会被询问。而是大多数人甚至不知道他们在同意什么。当同意被重新用于训练或改进人工智能系统时，它就不再能以任何有意义的方式定义。患者同意治疗、测试或记录保存，并不一定意味着他们知道他们的数据将来可能被用于开发他们不会参与、无法评估且未明确同意支持的系统。透明度是医疗保健中尊重的起点，没有它，信任将开始减弱。
当患者和医生无法清楚地看到人工智能系统如何得出结论时，后一个问题更为关键。许多医疗保健算法非常复杂，即使是专家也无法清楚地解释建议背后的原因。人工智能模型可能仍然不清楚为什么它提出了诊断、将患者标记为高风险，或影响了治疗决策。在医疗保健这样敏感的环境中，这种模糊性不仅令人烦恼。它提出了关于责任、信任的难题，以及当系统推理无法被明确检查时，是否应该依赖该系统。
偏见不是技术注脚
偏见是另一个主要问题。医疗保健数据通常存在偏见，而人工智能系统的可靠性仅限于其训练数据。当某些群体代表性不足、被错误分类或历史上受到不同对待时，这些模式可能会被纳入模型本身。因此，一种算法可能总体上看起来准确，但在特定人群中的表现却更差。在医学中，这不是一个小缺陷。它可能意味着诊断延迟、遗漏病情，以及对系统本应帮助的人群提供不平等的护理。
考虑一个机器学习工具，由于其大多数训练数据都是男性，因此在识别心脏病方面更有效，或者一个系统对黑人患者的效率较低，因为基础数据偏向白人群体。这些不是抽象问题。它们反映了已经在医疗保健部门及以外的人工智能系统中观察到的更大趋势：一旦历史差异被引入数据，它们可能会在技术中悄然复制。威胁在于，这种歧视通常更难被发现，因为它被伪装在客观性的幌子下。
为什么伦理能增强创新
大规模医疗保健人工智能的支持者往往声称，除非有大量患者数据可用，否则这些系统无法得到改进。从这个意义上说，在每个步骤中明确同意会使研究变慢，减少训练数据集的大小，并使可能挽救生命的工具的开发变得复杂。在某种程度上，这是一个有效的担忧。数据在医疗创新中是必要的。但这并不意味着伦理应该被视为改进的障碍。速度不是在一个利害关系包括人类尊严、隐私甚至生命的行业中充分的辩护理由。
实际上，情况可能恰恰相反：如果医疗保健人工智能从一开始就建立在透明度、同意和公平的基础上，它将更有可能成功。当患者知道他们的数据如何被使用，以及当他们认为他们的隐私得到维护时，他们更倾向于支持数据驱动的创新。伦理保护不会破坏发展。它们使发展更加可信、更可持续，并最终更值得社会信任。
信任一直是医疗保健的基础之一。个人披露关于他们身体、过去和弱点的个人信息，因为他们相信这些信息将由医生和机构小心处理。为了让人工智能融入这个系统，它必须获得同样的信任。这不仅仅是技术准确性。它是关于数据使用的开放性，关于约束的诚实，以及确保自动化不会失去责任。
人工智能工具诊断、预测或优化的速度将不是决定医疗保健人工智能未来的唯一因素。它将取决于它们是否能在不伤害它们本应帮助的人的权利和尊严的情况下做到这些事情。人工智能绝对可以改善医学，但它不应该通过将患者变成看不见的数据源来实现。如果医疗保健旨在治愈，那么将塑造其未来的技术必须基于的不仅仅是智能。它还必须基于同意、公平和信任。
人工智能可以改变医疗保健，但变革本身是不够的。一个系统可以快速、强大，甚至拯救生命，同时仍然引发关于隐私、同意、偏见和责任的严重伦理问题。人工智能是否应该成为医学的一部分的问题不再是真正的问题，因为它已经存在。真正的问题是我们想要构建什么样的未来。当医疗保健建立在信任之上时，定义其未来的技术应该保护这种信任，而不是默默地破坏它。
【全文结束】