美国的医疗保健正处于因使用机器学习和人工智能（AI）而可能发生的重大潜在颠覆的早期阶段。这一转变已经持续了十多年，但随着最近的进展，似乎将更快地发生变化。仍有许多工作要做，以了解AI在医疗保健中最安全和最有效的应用，建立临床医生对AI使用的信任，并调整我们的临床教育系统以更好地利用基于AI的系统。
AI在医疗保健中的应用
AI在医疗保健中已经进化了几十年，既涉及面向患者的职能，也涉及后台职能。最早和最广泛的工作之一是在深度学习和计算机视觉模型的使用上。
首先，一些术语。传统研究方法（例如观察性研究和临床试验）使用了依赖回归模型的人群聚焦建模方法，其中独立变量用于预测结果。在这些方法中，虽然数据越多越好，但在达到一定数据集大小后，从数据中获得更好的推断效果会有一个饱和点。
人工智能带来了新的预测方法。一种称为感知器的结构逐行处理数据，并作为一层层微分方程的网络来修改输入数据，以产生输出。在训练过程中，每行数据通过网络（称为神经网络）时，都会修改网络每一层的方程，使预测输出与实际输出匹配。随着训练集中的数据被处理，神经网络学会了如何预测结果。
存在几种类型的网络。卷积神经网络（CNN）是最早在医疗保健应用中取得成功的模型之一。CNN在从图像中学习方面非常出色，在图像数据突出的应用中找到了用武之地：放射学、视网膜检查和皮肤图像。
一种更新的神经网络类型称为变压器架构，由于其在文本和文本与图像组合（也称为多模态数据）方面的巨大成功，已成为主导方法。变压器神经网络在给定一组文本时，特别擅长预测后续文本。变压器架构的一个应用是大型语言模型（LLM）。多个商业LLM示例包括Chat GPT、Anthropic的Claude和Meta的Llama 3。
总体而言，观察到神经网络的一个特点是，改进学习的饱和点很难找到。换句话说，给定越来越多的数据，神经网络会继续学习和改进。它们的主要限制在于更大规模的数据集和用于训练模型的计算能力。在医疗保健中，创建忠实代表真实临床护理的隐私保护数据集是推进模型开发的关键优先事项。
LLM可能代表着AI在医疗保健应用中的范式转变。由于它们在语言和文本方面的优势，它们非常适合电子记录，其中几乎所有数据都是文本。它们也不需要高度注释的数据进行训练，而是可以使用现有数据集。这些模型的两个主要缺点是：1）它们没有世界模型或对正在分析的数据的理解（被称为高级自动补全），2）它们可能会出现幻觉或编造，生成看似准确但实际上提供虚假信息的文本或图像。
正在探索的AI用例包括自动化和增强放射影像、视网膜图像和其他图像数据的读取；减少临床文档的工作量并提高其准确性，这是导致医生倦怠的主要来源；更友好、更共情的患者沟通；以及提高收入周期、运营和账单等后台职能的效率。
实际案例
AI已逐步引入临床护理中。通常，AI的成功使用遵循了经过同行评审的性能试验，这些试验展示了成功，并在某些情况下获得了FDA批准。
最早表现良好的AI用例之一是AI在视网膜检查图像中检测疾病和放射学中的应用。关于这些模型性能的已发表文献已促使在门诊环境中部署自动眼底照相术，以检测视网膜疾病。图像分割的研究取得了许多成功，这导致了多种软件解决方案的出现，这些解决方案为放射科医生提供决策支持，减少错误并检测异常，使放射科医生的工作流程更加高效。
较新的大型语言模型正在探索用于临床工作流的辅助。环境语音被用于增强电子健康记录（EHR）的使用。目前，AI文书正在实施，以帮助医学文档。这使医生可以专注于患者，而AI则负责文档过程，提高了效率和准确性。
此外，医院和卫生系统可以使用AI的预测建模功能对患者进行风险分层，识别高风险或风险增加的患者，并确定最佳行动方案。事实上，AI的聚类检测功能在研究和临床护理中越来越被使用，以识别具有相似特征的患者，并确定他们典型的临床行动方案。这还可以启用虚拟或模拟临床试验，以确定最有效的治疗方案并衡量其效果。
未来的一个应用场景可能是使用AI驱动的语言模型进行医患沟通。这些模型已被发现可以为患者提供有效的回应，模拟共情对话，使管理困难的互动变得更加容易。这种AI的应用可以通过根据患者病情的严重程度和消息快速高效地分类患者信息，大大改善患者护理。
挑战和伦理考量
AI在医疗保健中实施的一个挑战是确保使用AI工具时的法规合规性、患者安全和临床有效性。虽然临床试验是新治疗方法的标准，但对于AI工具是否应遵循相同的方法存在争议。另一个担忧是数据泄露和患者隐私受损的风险。在受保护数据上训练的大型语言模型可能会泄露源数据，这对患者隐私构成重大威胁。医疗保健组织必须找到保护患者数据和防止数据泄露的方法，以维持信任和保密性。训练数据中的偏见也是一个需要解决的关键挑战。为了避免有偏见的模型，必须引入更好的方法来避免训练数据中的偏见。至关重要的是，要开发培训和学术方法，以实现更好的模型训练，并在医疗保健的所有方面纳入公平性，以避免偏见。
AI的使用开辟了许多新的关注点和创新前沿。进一步研究AI在何处真正提供临床益处是必要的。为了应对这些挑战和伦理考量，医疗保健提供者组织和软件公司必须专注于开发准确建模医疗保健数据的数据集，同时确保匿名性和保护隐私。此外，必须建立医疗保健提供者、系统和技术/软件公司之间的合作伙伴关系，以安全、周到的方式将AI工具投入实践。通过应对这些挑战，医疗保健组织可以在维护患者安全、隐私和公平性的同时，发挥AI的潜力。
(全文结束)