洛杉矶讯——Elevance Health首席数字信息官Ratnakar Lavu近日与MobiHealthNews进行面对面访谈，阐述了这家健康保险公司用于验证并规模化医疗健康领域AI的框架。
MobiHealthNews：Elevance Health如何验证AI模型的安全性，尤其是代理式AI？
Ratnakar Lavu：首先，我们公司内部有一个健全的负责任AI项目。让我详细说明。当我们启动AI解决方案时——无论是为会员、医疗服务提供者、内部，还是为员工——我们都会经历一套治理流程，这个流程从构思阶段就开始了。当人们考虑构建AI解决方案时，我们就会思考如何关注透明度、如何考虑负责任的AI、如何设置防护栏、如何进行偏见测试等。所以从设计层面开始，我们就启动了这个流程。这就是我们负责任的AI流程。
然后进入执行阶段，我们验证这些负责任的AI参数；进入生产阶段时，我们还有人进行验证。我们还构建了一个平台，已经嵌入了这些组件。因此，当他们部署模型为会员、医疗服务提供者或工作流程服务时，平台本身内置了防护栏和偏见测试。我们实际上设置了多重控制。部署之后，团队还会持续检查，确保没有偏离最初的设计。
MHN：Elevance Health是否会试点或实施尚未准备好规模化推广的技术？
Lavu：我们实际上已经规模化了很多东西。我们确实会试点一些项目，但目的就是为了规模化。我举两个例子：我们先测试了一些功能，然后将其规模化。
在客户服务方面，当会员来电时，我们会聚合大量信息，这样客服人员就不必在会员等待时查看多个系统，因为涉及福利信息、理赔信息、预授权信息等大量需要关联的数据。我们通过AI完成这项工作，并为客服人员生成摘要，让他们能专注于服务会员。随后我们还会进行通话后的自动总结，以了解服务情况并找出改进点。
当我们这样做时，我们首先在少数客服人员和会员中试点，了解需要微调的地方，然后进行微调并推广。现在，我们每天处理约一百万次通话后总结。
MHN：在目前这个阶段，想到AI被应用于医疗健康，您担心什么？有什么让您感到不安的吗？
Lavu：我认为有几点。我们非常关注三个我们认为能简化会员、医疗服务提供者和员工体验的要素。
第一，我们希望为会员打造个性化的诊疗旅程。
第二，我们希望简化交互，让医疗服务提供者不必在行政工作上花费大量时间，而是能专注于会员的健康结果。
第三，我们希望为员工提供正确的工具和能力，以便他们服务好会员和医疗服务提供者。
我们有一个框架，就是我之前提到的“负责任AI指导原则”。只要供应商和服务提供者符合这些准则和框架，并且我们能实际测试并证明其可规模化，我们就会继续实施，但他们必须遵循我们的负责任AI框架。
MHN：您认为是否存在一个点，技术变得过于强大，反而弊大于利？
Lavu：目前医疗健康领域非常复杂。我们都有各自的医疗体验。我认为技术有巨大的潜力来简化这一切，因为有太多的事情需要连接，太多的点需要串联。AI能够汇集信息、简化会员、医疗服务提供者和员工的体验，我认为这其中蕴藏着巨大的潜力，而这正是我们专注的方向。
【全文结束】