克雷格·门格特是TriZetto的首席执行官。
医疗保健领域实际上与大多数正在采用AI的其他领域截然不同。可接受的错误率极低，监管框架复杂，而且数据极为个人化。这一现实决定了我们如何思考代理型AI。
目前，人们对自主代理充满热情，这理所当然。然而，在医疗保健领域，治理必须先行。如果没有对数据、访问和问责制的强有力控制，就不可能负责任地扩展AI。
与此同时，医疗保健并未停滞不前。最近的行业研究表明，超过70%的医疗保健组织正在积极推进或已实施生成式AI计划。这告诉我，这个行业并非抗拒，而是审慎。领导者们希望获取AI的价值，但他们也明白，信任和安全必须放在首位。
医疗保健AI需要不同的策略
医疗数据具有独特的敏感性。HIPAA法规、受保护健康信息（PHI）和个人身份信息（PII）共同构成了一个将安全作为最高优先级的监管环境。许多组织自然不愿将AI引入运营平台，因为他们希望确保在此过程中不会危及数据或患者。
与此同时，全球监管势头正在增强。欧洲已经建立了更正式的AI监管框架，美国也出现了类似的护栏。这意味着医疗保健组织不仅考虑AI能为自己做什么，更重要的是考虑如何长期安全地使用AI。
根据我的经验，那些如今采取谨慎和周到方法的组织，未来将最能适应规模化发展。
治理是自主性的前提
当我们谈论代理型AI的治理时，起点并非新规则，而是保留那些已经保护医疗保健系统的规则。
以基于角色的访问控制为例。索赔专员、财务部门和客户服务代表拥有不同的权限。AI代理不应绕开这些系统权限，而应在其中工作。
身份管理也是一个考虑因素。代理不应拥有独立于人类角色的规则集，而应继承相同的权限框架，以确保一致性和问责制。
可审计性也是治理的一个基本方面。医疗保健系统已经拥有完善的审计追踪系统，可以保存多年。AI系统应增强这一点，而非削弱它。能够回溯代理做出某个决定的原因和过程，对于长期建立信任至关重要。
这并非理论空谈。超过60%的医生报告担忧，治理不善的AI工具可能已经以不完全透明的方式影响与保险覆盖或授权决定相关的建议或工作流程。这凸显了治理不能沦为事后补救。
治理不是创新的障碍，而是让创新能够负责任地扩展的基石。
AI应增强判断力
目前，医疗保健领域最有价值的代理型AI用例大多与生产力相关。一些研究表明，行政任务可能占医疗从业者高达70%的时间。
我们看到人们对数据检索、摘要、系统导航和配置支持等功能表现出浓厚兴趣。这些工具帮助临床医生、护理管理者和运营团队专注于更高价值的工作，而不是重复性的行政任务。
人工参与监督仍然是必须的，尤其是在早期阶段。不同组织的风险承受能力不同。有些组织可能允许在特定情况下进行半自主决策，而另一些则可能等到获得信心后再推进。
这是一个自然的过程。对AI的信任是通过持续的性能表现逐步建立的。
合规必须从第一天开始设计
组织可能陷入的最大陷阱之一是在AI实施后尝试进行合规性改造。医疗保健行业已有完善的合规结构。最好的做法是将AI叠加在这些结构之上，而不是试图重新创建它们。
有些业务规则是不可更改的，例如参保资格、报销条款和保险覆盖范围。这些不应被AI代理修改或质疑。
其他领域，如欺诈检测或运营优化，则提供了更多灵活性。但即使在这些领域，强健的安全措施、基于角色的权限结构和紧急停机机制也至关重要。
工作流改造需要纪律
目前有很多关于围绕代理型AI重新设计工作流程而非简单自动化现有流程的讨论。我同意这一方向，但有一个重要的前提。
工作流改造必须尊重监管要求、合同义务和临床保障。忽视这些方面会损害业务完整性，更重要的是，损害患者结果。
AI能够发挥作用的地方在于更智能地安排工作顺序。那些曾需要数天或数周的过程，如预先授权，可能随着代理更高效地与规则、数据和审计系统交互而大幅加速。
以预先授权为例。这是当今医疗保健领域最明显的痛点之一。行业调查显示，超过90%的供应商报告由于预先授权要求导致治疗延迟，超过40%的供应商将其视为倦怠的重要诱因。
代理型AI有潜力大幅压缩这些时间线，但前提是其必须在清晰的治理框架内运行并保持强大的可审计性。转型应该减少摩擦，而不引入新风险。
数据策略将决定成败
另一个新兴趋势是使用本地化模型，而非完全依赖外部大语言模型。许多组织倾向于采用一种架构：敏感医疗数据保留在其环境内，同时利用外部AI能力进行推理或语言生成。
这种方法保护了患者数据，同时使组织能够受益于AI的快速进步。它也承认了一个现实：每个医疗保健组织配置系统的方式不同，因此本地化学习通常能产生更好的结果。
安全架构还需要考虑最坏情况。这包括杀毒开关、访问控制和发生泄露时的遏制策略。
负责任的自主性将规模化
医疗保健领域的代理型AI不是“是否”的问题，而是“如何”的问题。成功的组织将是那些将治理、安全和运营成熟度视为先决条件而非事后补救的组织。
此外，还有强大的经济理由。分析表明，AI可以为大型医疗保险公司带来数百万美元的行政成本节省，同时提高效率和成员体验。但只有信任和合规保持不变，这些收益才能实现。
这不是为了减缓创新，而是为了确保AI真正提供可持续的价值：提高生产力、支持临床医生、改善患者结果，同时不损害安全或信任。
在医疗保健领域，真正的创新不仅仅是自主性，而是负责任的自主性。而这一切始于治理。
福布斯技术理事会是面向全球一流CIO、CTO和技术主管的邀请制社区。我是否符合资格？
【全文结束】