人工智能的发展速度已经超过了医疗机构的管控能力，试图跟上步伐的高管们对此心知肚明。
这种紧张关系成为贝克16周年年会AI投资策略讨论的核心议题。会上，健康系统领导者和行业专家共同探讨了一个尚无明确答案的问题：如何构建基础设施来管理那些发展速度超过你评估能力的技术？
芝加哥拥有35亿美元规模的鲁什健康系统(Rush)高级副总裁兼首席信息官杰夫·戈特尼(Jeff Gautney)表示，为确保AI顺利融入现有工作流程，他们始终让一线团队参与其中。
"从AI角度看，我们部署的任何工具都不能破坏工作流程，"他说。"人们正低头专注于工作。如果我让他们起身去做其他事情，然后再将注意力转回当前任务，那么我就已经丧失了该工具大部分价值。"
但工作流程整合只是开始。一旦AI在组织内部运行，更难的问题是如何知道它是否运行良好。戈特尼表示，封闭式模型——那些提取数据、运行协议并产生一致输出的模型——比持续学习的面向患者的工具更容易监控。
"你正在为某人提供关于他们可能接受何种护理以及在哪里接受护理的实际建议，"他说。"这种级别的监控要复杂得多。"
使这种监控如此困难的原因在于IT团队思考系统的方式与AI实际行为之间的根本差异。
"通常情况下，临床医生期望IT系统具有100%的置信度。我们会进行端到端测试。每次我输入A，总会得到B，"戈特尼说。"但AI并非如此。"
故障模式是逐渐发生的，并不总是明显，在患者护理环境中可能会令人沮丧且存在风险。
"AI模型有时会有点'发疯'，直到它充满'精神错乱'，"他说。"你需要一线人员——那些实际使用系统的人员——始终保持警惕，随时告知你问题何时出现。"
SAS研究所全球医疗总监史蒂夫·基尔尼(Steve Kearney)从跨行业视角看待这一挑战，指出其他行业已经在压力测试AI监控，其规模远超大多数健康系统。在银行业，模型监控发生在100毫秒内。在制造业，有15,000个模型实时运行。医疗保健可以从这些经验中汲取的教训，与其说是技术本身，不如说是建立信任所需的条件。
"AI以信任的速度发展，"他说。"如果你不能信任与你合作的人，那么无论你的系统有多好都不重要。"
建立这种信任始于正确理解算法，并愿意通过同行评审的出版物、验证环境和第三方评估来展示你的工作。SAS在许多组织中已将自己定位为其他供应商工具的仲裁者。
在纽约拥有10家医院的学术医疗中心Montefiore健康系统，首席数据与分析官苏迪普托·斯里瓦斯塔瓦(Sudipto Srivastava)正在应对一个普遍的结构性挑战：医疗机构在采用技术方面远比淘汰技术更擅长。
"我们在'加法'方面做得很好，但在'减法'方面很差，"他说。"突然间，你拥有了一个运行多个代理的生态系统。你如何确保这些代理能够相互沟通？负责协调所有这些事务的编排层是什么？"
斯里瓦斯塔瓦描述了Montefiore治理模式的演变过程，这一过程是由必要性驱动的一系列快速迭代。该组织大约一年前推出了治理1.0版本，重点是速度——一个小型决策机构被赋予快速行动的权力。但当临床和以投资回报率为重点的利益相关者得出不同结论时，速度本身创造了一个瓶颈。治理2.0将所有人聚集在同一房间。如今，该组织已经在设计基于分层风险矩阵的治理3.0版本。
"大型治理结构是为了审议而建立的，但不是为了速度，"斯里瓦斯塔瓦说。低风险决策会获得批准并继续推进。中等风险决策会得到较轻的审查。只有最复杂或最昂贵的提案才需要全面的战略投入。
"发现某些东西不起作用并改进它是可以的，因为事物变化的速度非常快，"他说。
戈特尼在鲁什健康系统的做法遵循了类似的轨迹。在正式的AI卓越中心存在之前，鲁什设立了负责任AI办公室，以审核已签署的包含AI组件的协议。从那里，AI卓越中心逐渐成形，专注于需求接收、业务案例评估、知识普及和监控。如今，甚至该结构也在重新调整。原始模型本质上是要求人们自愿披露他们已经部署的内容，这在创建清单方面效果良好，但它奖励了最响亮的声音，而不是挖掘最高价值的机会。
"我们发现，那些对此充满热情或有供应商在他们耳边不断坚持的人是提出想法的人，"他说。"从某种程度上说，这些都是有效的。但这并不一定意味着我们正在处理与战略直接相关的事物。"
此后，鲁什组建了一个由三人组成的核心团队——一名流程架构师和两名前部署工程师——负责主动将AI映射到鲁什的业务战略上。他们的首要关注点是收入周期，这是经过精心选择的，因为来自支付方行动的压力日益增大。
"我们与收入周期负责人合作，分解了他们当前面临的所有威胁，系统地分析了整个流程并确定了AI解决方案，从Epic开始，保持核心支柱，但在Epic尚未覆盖的领域增加点解决方案，"戈特尼说。"这是迄今为止我们最成功的部署。"
随着技术的发展，首席信息官们正面临一个新的挑战。公司正通过更新而不是正式采购流程添加AI工具。组织多年来一直在使用的工具——Workday、DocuSign、Epic——正在将其核心功能中嵌入AI，且无需监督；它只是自动启用。
"有一天DocuSign可以为我总结所有合同。这非常有用，但我们从未讨论过它。它只是作为升级的一部分出现，"戈特尼说。其中一些增强功能会带来额外成本，这些成本只有在采用后才会显现。"你需要一个FinOps模型来处理它，"他说。
"我认为从现在起18个月或更短时间内，这将成为我们拥有的一切解决方案实施和运作的方式，"戈特尼说。"我们不能有一个只处理AI的独立团队。IT部门的每个人都必须能够处理AI，因为它将融入我们做的每一件事中。"
对高管层而言，这一转变既解放又不稳定。鲁什向大约3,000名知识工作者推出了Copilot，并赋予高管直接查询自身数据的能力——无需等待分析师提取报告或协调相互矛盾的仪表板。
"他们能够提出在过去需要查看几个不同仪表板或请求提取的问题，"戈特尼说。"通过整理数据并为他们提供工具，让他们自己提问并深入分析，这在他们调整战略和更实时地应对事物方面非常积极。"
鲁什现在正将这一能力迁移到Claude。但赋予高管的这种可访问性也推高了期望值。"我们有很多人将重点重新放在什么是真实的上，特别是在绿色资金方面，"他说。
斯里瓦斯塔瓦对高管层转变的看法有所不同——他认为这缩小了长期以来困扰临床和运营领导者与技术团队接触时的翻译差距。
"他们会去找技术团队，得到一些令人费解的术语，然后他们会说，我不知道他们在说什么。但现在有了代理和其他东西，他们可以开始想象——因为他们有生产力的概念，如何提取它，如何减少那些愚蠢的工作。"
【全文结束】
