应对医疗保健中人工智能的伦理问题：英国视角 - AI与医疗健康

英国国家医疗服务体系（NHS）正在探索利用人工智能（AI）来改善医疗服务。这是一个重大举措，虽然潜力巨大，但也存在一些棘手的医疗保健人工智能伦理问题需要解决。从保护患者数据到确保系统可信度，有许多因素需要考虑。本文探讨了一些主要挑战以及我们可能需要采取的措施来正确应对这些问题。

主要要点

患者数据需要通过规则和法律得到强有力的保护，尤其是在训练AI系统时。我们不能随意使用数据。
我们需要清楚地了解AI系统的工作原理。如果出现问题，必须有人负责，而如果我们不知道AI为何做出特定选择，这将变得困难。
人们需要对医院中的AI感到自信。如果有负面报道或人们不理解它，他们就不会信任它。
医疗保健中AI的规则和法律需要跟上步伐。我们需要为所有相关人员提供明确的指导方针。
我们需要更多了解医疗保健AI的人才，包括开发和检查AI的人才。向他人解释其工作原理也很重要。

解决医疗保健AI中的患者数据问题

这有点像雷区，不是吗？我们正在讨论医疗保健中的AI，大多数人首先想到的是"我的数据怎么办？"老实说，这是一个合理的问题。NHS拥有大量信息，当你开始考虑将这些信息输入算法进行训练时，情况很快就会变得复杂。

通过伦理和法律框架保护数据

那么，我们如何保护所有这些敏感信息呢？当然，有规则。英国有法律框架，也有组织应该遵循的行为准则。这一切都是为了确保患者数据得到妥善处理。但由于AI需要大量数据来学习，这感觉有点像走钢丝。

算法训练中数据利用的伦理困境

这里事情变得有点棘手。想象一下为一个目的收集的数据——比如说，帮助诊断特定疾病——然后被用于训练完全不同的AI。这就像用你的旧购物清单来训练你从未注册过的食谱应用程序。一些研究表明，相当多的人担心AI涉及的数据隐私，特别是如果他们不完全理解它是如何工作的。真正的担忧是，患者数据可能成为另一种被利用的资源，而不是被给予最高程度的关怀。 我们已经看到一些案例，其中在AI项目中使用患者数据时未获得适当的同意，这严重损害了信任。

确保AI开发的明确患者同意

这是一个大问题。患者需要知道他们的数据如何被使用，特别是当涉及到开发新的AI工具时。假设人们对此没问题是不够的。明确同意意味着清晰、知情的协议。幸运的是，像国家数据退出计划这样的措施正在使人们更容易对他们信息的使用发表意见。这是关于赋予人们控制权。

国家数据退出计划的作用

这些计划是朝着正确方向迈出的一步。它们为个人提供了一种方式，表明他们不希望自己的数据用于某些目的，包括AI开发。这是一种大规模管理同意的方式。然而，这不是灵丹妙药。持续的挑战是确保这些退出请求得到尊重，并且系统足够强大，能够处理AI数据需求的复杂性。

医疗保健系统内产生的数据量为AI开发提供了独特的机会。然而，这一机会伴随着保护患者隐私和维护伦理标准的重大责任。如果没有明确的指导方针和强大的同意机制，敏感健康信息被滥用或利用的潜在风险仍然是一个严重关切，可能会损害公众对AI以及使用它的医疗保健提供者的信心。

增强AI系统的透明度和问责制

算法透明度的挑战

老实说，理解先进AI工具内部发生的事情确实相当棘手，尤其是机器学习系统。它们有点像巨大的黑匣子——你向它们输入大量患者数据，然后得到一个建议或预测，而没有清楚地了解它是如何做出的。对于医疗保健工作人员和患者来说，这种缺乏清晰度可能会造成压力，有时甚至存在风险。 不知道决策是如何做出的，使得质疑、解释或纠正AI驱动的选择变得困难，特别是当它涉及像患者健康这样严重的事情时。

许多AI模型使用数学上非常密集的技术，科技圈外很少有人理解。
如果有人要求解释，特定"输出"的原因可能不明确。
有些系统无法轻松地对错误或奇怪的建议进行质询，这对临床医生来说可能令人不安。

如果人们觉得决策是由某种隐藏过程做出的，那么对这些决策的信任——无论多么准确——都不会持久。

开发透明的机器学习技术

但事情不必保持这种方式。现在有一种推动使机器学习更具解释性的趋势。这意味着构建系统，可以逐步查看结果是如何得出的——几乎就像在考试中展示你的解题过程。一些较新的系统显示哪些数据特征对最终决策影响最大，让临床医生更好地理解软件在"思考"什么。

以下是提高透明度的方法：

开源算法： 更多共享，更容易审查
模型可解释性工具： 让用户检查不同数据点如何影响决策
清晰的文档： 解释系统如何构建以及通过的检查

这项新技术中的许多仍处于早期阶段，但它正在朝着正确的方向发展。

对AI故障负责的相关方问责

每个AI，即使是最好的，也会出错——这只是使用技术的一部分。然而，在医学中，一个错误可能会严重影响某人的生活，然后出现一个真正棘手的问题：如果AI的建议导致伤害，谁该负责？ 目前在NHS中，临床医生对最终决策负责，即使他们依赖AI建议。但当透明度不足时，弄清楚出了什么问题以及谁需要修复它就变得棘手。

下表展示了NHS中当前的责任情况：

情境	谁负责
AI建议，临床医生决定	临床医生
AI在没有临床医生检查的情况下做出决策	不确定/有争议
错误追溯到错误的数据或编程	开发者/提供商

如果AI开始直接做出更多决策，必须有一种方法来审计这些决策并对正确的人追责。

透明度对临床医生采用的影响

临床医生的信任是任何新医院技术成功或失败的关键。如果AI清楚地说明其决策，医务人员可能会感到更安全地依赖（和质疑）它们。但仍然——

当AI的错误无法追踪时，医生可能更愿意坚持他们所知道的。
对于自己没有完全理解的东西负责并不是一个有吸引力的前景！
定期报告没有清晰解释的AI错误会动摇对整个过程的信心。

让医生清楚地了解AI在做什么不仅仅是"好"——这是实际应用的必要条件。

因此，将AI系统提升到开放、可理解和负责任的程度不仅仅是为了满足监管要求。它是为更安全、更受信任的护理奠定基础——这是英国医疗保健中每个人都能支持的事情。

建立公众对医疗保健AI的信任

理解公众对健康AI的担忧

英国的许多人对人工智能在医疗保健中扮演更大角色感到不安。人们觉得AI陌生，几乎有点神秘，这引发了对其实际安全性的担忧。 对隐私的担忧、诊断中失去人性化以及不了解这些系统如何做出决策都加剧了这种不安。有些人也对公司使用他们的数据感到不安，特别是如果不清楚原因的话。

公众担忧的主要原因：

担心如果AI参与，护理可能会变得不那么个性化
对医疗数据如何安全处理的疑虑
缺乏对AI驱动的诊断和治疗的清晰解释

人们希望知道技术不是在取代他们的医生，而是在与他们一起工作，而不是在后台做出秘密决策。

高调AI失败对信任的影响

高调的错误——如皇家自由/DeepMind事件——多年来一直困扰着公众。当关于NHS敏感数据处理不当或技术造成危险错误的头条新闻出现时，这对信任是一个真正的打击。这些故事不仅损害了一家公司的声誉——它们在AI应用的每个地方都引发了警报。对某些人来说，一次重大失败足以让他们对整个想法产生警惕。而且不仅仅是错误本身，而是感觉人们直到为时已晚才被告知完整的故事。

年份	事件	对公众信任的影响
2017	皇家自由/DeepMind数据滥用	由于缺乏同意和透明度，信任受损
2024	医院分诊中的算法误诊	强化了对AI"出错"的恐惧

教育公众了解AI能力和安全性

你不能期望支持人们几乎不了解的东西。教育是关键。

需要简短、通俗易懂的解释，说明AI能做什么和不能做什么。
开放的问答论坛或路演可以帮助回答当地问题——这都是关于面对面交谈和直接解决误解。
诚实谈论风险和收益，而不是大胆的声明，有助于建立真正的理解。

解释AI决策是如何做出的——没有行话——有助于人们将其视为工具，而不是黑匣子。

通过遵守标准获得安心

为了让人们放心使用医疗保健中的AI，他们需要知道它已经过测试、监管并符合严格标准。明确指导AI系统是否符合NHS要求、遵守数据保护法律并定期审查安全性，有助于创造一种安全感。

让公众安心的事项：

定期审计AI系统，以便在造成伤害前发现问题
公开报告正面和负面结果
标签和认证，表明AI已通过独立检查

当系统经过仔细和公开的检查时，它建立的信心比任何营销承诺都多。

应对监管和政策环境

在英国，特别是在这里，关于医疗保健AI的规则和指南有点像雷区。我们在AI方面有很大的潜力，但如果没有明确的方向，事情可能会很快变得混乱。我们真的需要在这方面做好准备。

更新行为准则的需求

目前，现有规则感觉有点像试图将方钉塞入圆孔。数据驱动医疗技术的初始行为准则是一个开始，但AI发展如此迅速。我们需要更强大的东西，一些能预见未来发展的东西，而不仅仅是对其做出反应。考虑涉及的数据量；我们需要确保它被正确、合乎伦理和法律地处理。这不仅仅是关于患者隐私，尽管这是其中很大一部分。这也是确保我们使用的AI工具安全有效。

为AI实践建立基准标准

在医疗保健中，"好"到底是什么样子？我们需要明确的基准。这可能涉及制定具体要求，说明AI算法如何在使用前进行测试、验证和监控。这是关于创建一个每个人都可以追求的"黄金标准"。这将有助于建立信心，不仅对患者，也对每天使用这些工具的临床医生。想象一下有一个清晰的清单，知道AI系统是否符合某些安全和性能标准。这将产生很大不同。

为政策制定进行跨学科合作

这不是一个群体的工作。我们需要技术专家、医生、伦理学家、律师甚至患者代表彼此交谈。政策制定需要成为一项团队运动。<a href=" rel="noopener noreferrer" target="_blank">国家医疗保健AI监管委员会是将不同思维汇聚在一起的一个好例子，但我们需要更多这样的例子，从任何AI项目的开始就嵌入其中。这种合作有助于在潜在问题变成大问题之前发现它们，并确保政策实用并考虑所有角度。

解决NHS信托中的政策缺口

不同的NHS信托可能会对AI采取略有不同的方法，这可能导致不一致。我们需要一个更统一的策略。这意味着识别当前政策的不足之处，并制定可在全英国应用的明确指导方针。这是关于确保无论你在伦敦还是利兹，当地医院的AI标准都是一致和高的。这将需要持续研究和致力于随着技术发展而更新政策。

发展医疗保健AI的专业知识和能力

AI调查技术培训的重要性

当医疗保健中的AI出现问题时——它们确实会——我们需要能够找出原因的人。仅仅说"算法就是这么做的"是不够的。我们需要那些有技术能力深入研究代码、了解其训练数据并精确定位故障确切原因的人。这意味着投资于我们的医疗专业人员和研究人员的培训，不仅在于如何使用AI工具，还在于它们如何在内部工作。可以将其视为培训机械师修理汽车，而不仅仅是驾驶它们。没有这个，我们只是在希望得到最好的结果。

培养稳健和透明的开发实践

为医疗保健构建AI系统需要认真反思。我们不能只是继续生产黑匣子。开发人员需要从一开始就考虑如何构建这些系统，以开放为前提。这意味着记录每一步，使决策过程尽可能清晰，并准备好解释特定结果是如何得出的。这是关于创造一种文化，在这种文化中，透明度不是事后才想到的，而是设计的核心部分。

向非专家解释复杂的AI过程

这是一个大问题。医生、护士和患者需要了解AI在做什么，至少在高层次上。如果AI推荐一种治疗方法，临床医生需要能够向患者解释为什么做出该推荐，而不会陷入技术术语的泥潭。这需要一种不同的技能——将复杂技术概念转化为简单英语的能力。这是关于在技术世界和临床世界之间架起桥梁。

在快速发展的领域建立专业知识

医疗保健中的AI并非停滞不前；它正以惊人的速度发展。今天最先进的技术明天就会过时。这意味着我们需要持续学习和发展。我们需要为人们创造途径，让他们保持最新状态，学习新技术，并适应不断的变化。这是一场马拉松，而不是短跑，我们需要确保我们的医疗保健系统为长期做好准备。

挑战不仅仅是拥有技术；而是拥有具备正确技能和理解能力的人，以安全有效的方式使用它。这需要共同努力，培训、教育和支持医疗保健领域的个人。

以下是我们需要建立能力的一些关键领域：

技术技能： 数据科学、机器学习和AI伦理方面的培训。
临床整合： 帮助医疗保健专业人员了解AI的能力和局限性。
沟通： 开发向患者和公众解释AI的能力。
监管理解： 跟上不断发展的指导方针和法律框架。

展望未来：英国医疗保健AI的前进道路

那么，这对NHS中的AI意味着什么？很明显，潜力巨大，但我们还没有完全实现。做对这一点意味着解决我们如何处理患者数据的问题——确保它被正确使用并获得许可，而不仅仅是一场自由活动。我们还需要更好地解释这些AI系统实际如何工作，以便人们可以信任它们。这不仅仅是技术专家的工作；它需要医生、律师、伦理学家和公众彼此交谈。建立信任是关键，这意味着开放、教育每个人，并表明我们使用的系统是安全的并遵循规则。这是一项艰巨的任务，但如果我们直面这些问题，AI真的可以改善英国各地的患者护理。