普里特什·米斯特里（Pritesh Mistry）是国王基金（The King's Fund）的数字技术研究员，他指出，医疗健康人工智能工具不仅将影响患者的医学知识，还将影响临床医生的行为。
信用说明：本文是最初发表在《Digital Health》上的一篇文章的编辑版本。
米斯特里在文章中强调了人工智能在医疗保健领域日益增长的作用，以及这对患者、临床医生和英国国家医疗服务体系（NHS）的影响。米斯特里指出，人工智能在医疗保健领域的影响力已经显而易见。例如，AI文员工具正在减少临床医生的行政工作量，而皮肤科诊断工具则正在加速诊断过程。然而，人工智能更广泛的影响将不仅取决于像NHS这样的医疗系统如何实施这些技术。越来越多的人工智能解决方案正直接向公众提供。
公众对生成式人工智能工具的获取
最近宣布的专注于健康的生成式人工智能工具，包括ChatGPT和Claude，体现了这一趋势。虽然目前这些工具仅在美国用于医疗用途，但预计它们将扩展到英国。这些工具能够处理大量信息，结合互联网来源和AI训练数据，并回应用户查询。公众越来越多地使用这些工具来获取医疗信息，从疾病和治疗的解释到向临床医生提出的问题。
尽管这些工具并未被正式宣传为健康资源，但米斯特里观察到，英国公众已经在使用它们来增强对健康状况、服务和护理选择的理解。
潜在益处与隐私考虑
尽管最近的公开声明细节不多，但这标志着向前迈出的积极一步。这些新工具旨在为与健康相关的查询提供受保护的环境，但不提供正式诊断。它们还力求简化健康信息的输入，并假设持续遵守数据保护标准，通过确保用户数据不用于模型训练来纳入隐私保护措施。然而，目前这些专注于医疗保健的工具在英国尚未提供。因此，英国用户在使用生成式人工智能工具获取健康信息时，可能无法获得同等的隐私保护。
风险与局限性
米斯特里警告说，生成式人工智能模型确实会犯错误。它们可能提供不正确或特定于国家的信息，甚至完全编造回应。这可能导致患者做出信息不足的决定，可能恶化其健康结果。
为减轻这些风险，米斯特里建议在三个关键领域采取行动：
- 公众参与与教育
了解人们如何使用生成式人工智能工具，并建立公众适当使用这些工具的技能和信心至关重要。
- 支持NHS员工
临床医生和医疗保健工作人员必须了解这些工具如何影响患者期望、服务需求和医患互动。需要建立资源和能力，以有效且一致地应对。
- NHS与AI开发者的合作
与AI开发者密切合作可以帮助最大化患者利益，同时将风险降至最低。这包括公众教育、专业参与、证据生成、数据可访问性以及实施商定的保障措施。
随着传统的谷歌搜索逐渐被ChatGPT对话取代，专注于健康领域的公共生成式人工智能工具很可能很快将在英国推出。预计其使用量将增长，为医疗保健系统带来机遇与挑战。
【全文结束】