大多数医疗系统的AI讨论仍集中在第一波：采用哪些工具、自动化哪些流程、评估哪些供应商。但City of Hope的首席AI与分析官Nasim Afsar已在思考第二波——以及它可能造成的混乱。
“我日复一日思考的最重要问题之一是，我们如何真正编排所有这些不同的AI工具，以及日渐增多的AI智能体——每个组织都在为点式解决方案采用它们。我们想提前做好准备，这样一年后，我们不会在组织内有几十、几百、几千个各自为政、互不沟通的智能体在运作。”Afsar说。
问题在于结构层面。随着医疗系统在各部门和职能中部署AI工具，每次部署往往追求局部优化——解决特定工作流中的特定问题。这种系统可能演变成混乱。
“我们如何编排它们，使其有效协作，并优化整个系统，而不仅仅是优化其中一部分——局部优化解决了这个问题，但又将瓶颈转移到别处，然后我们又得解决那个新问题。”Afsar说。
这种瓶颈转移的动态对任何管理过复杂运营系统的人来说都不陌生。修复一个约束而不考虑全局，往往会在下游产生新的约束。在临床环境中，工作流相互依赖，意外后果的代价很高，这种模式尤其昂贵。
City of Hope的应对措施是将智能体编排同时视为治理和技术问题——现在就开始构建基础设施，以免智能体激增的速度超过组织管理能力。这既需要能够连接不同工具的技术架构，也需要提供对整个智能体生态可见性的治理模型。
对于City of Hope的执行副总裁兼首席数字与技术官Simon Nazarian来说，推动这项工作的组织目标很明确：扩大自主权，让研究人员、临床医生和团队能够构建和运行自己的AI工具，决策更贴近工作。
“一个主要优先事项是负责任地在整个组织内扩大自主权。赋能我们的研究人员、临床医生和团队创建和运行自己的智能体，这非常重要。”他说。
矛盾就在这里。分布式自主权意味着更多智能体、更快的速度，意味着更多人在更多工作流中构建更多点式解决方案，也意味着编排挑战变得更大、更复杂。
“大多数组织是为集中式许可而构建的。而AI特别需要分布式责任。那么，我们如何引导组织、共同协作，以完成这种变革管理？”Nazarian说。
一旦正确的工作流和结构就位，技术集成完成，最终还要依靠临床医生和一线员工来真正优化AI。
“很多我们想实现的目标在技术上已经存在，但它真的会被采纳、使用并产生影响吗？这才是大问题。”Afsar说。
【全文结束】