挑战与愿景
当企业首次采用生成式与智能代理AI技术时，通常会从低风险的应用场景着手。但在医疗这类高度监管的行业，即使是看似简单的行政任务也存在固有风险。
这是因为许多核心流程——如病历维护和付款协调——都需要人工监管，并涉及个人身份信息（PII）与受保护的健康信息（PHI）。这种特性使得医疗保健领域的AI自动化远比其他行业复杂。
尽管存在这些挑战，医疗组织仍可借助包括生成式与智能代理AI在内的技术进步推动下一阶段的自动化升级，前提是建立以责任使用、合规性及持续创新为核心的基础框架。
医疗保健中的人工智能整合
医疗保健行业并非自动化领域的 newcomers。为了降低成本、服务更多患者并改善治疗结果，医疗机构长期依赖软件解决方案来自动化重复性任务，例如提醒处理团队索赔中的错误。
但直到最近，诸如验证和解决错误等更复杂或细微的流程仍难以实现自动化。这类任务通常需要认知处理能力与跨部门协调，传统自动化框架无法支撑。这些任务可能缺乏明确一致的规则，或需要时间敏感型决策，必须依赖人工干预。
这种局面正随着新的AI能力（如智能代理AI）而改变：这种自主系统具备主动和适应性的行动能力。智能代理AI系统可以模拟人类认知过程，实现复杂高价值医疗任务的自动化，这些任务需要灵活性、情境判断或跨组协作。
开启医疗保健自动化新时代
将AI整合入自动化解决方案，正在试点一种AI驱动的桌面级流程助手，可自动化传统软件无法管理的复杂重复性任务。
在第一阶段，该助手充当增强工具。它可以通过自动化检索程序信息或检查系统中的提供者记录来支持人工代理。该代理还能作为向导，为工作人员提供操作建议或逐步指导，例如更新提供者记录或批准变更。
第二阶段的能力将允许人工代理与AI代理转换角色。AI代理将主导执行任务，例如将提供者记录变更请求路由到适当部门、验证请求并更新记录。人工代理则维持整个流程的监管。
图1概述了组织如何使用AI助手更新提供者记录。根据使用的是第一阶段还是第二阶段的能力，组织可以选择性地自动化部分工作流程。因此，原本需要九个步骤的人工中心化流程现在可以简化为五到六个步骤，人工代理只需最小程度的参与。
过去需要病例管理员手动审查病例记录、处方历史和自述进展（通常耗时15-20分钟），现在AI代理可以从多个来源检索这些数据，并使用生成式AI以清晰可读的格式进行总结。
这不仅减少了手动数据收集和分析时间，还允许病例管理员与信息互动。例如，护理管理人员可以直接在平台上询问后续问题、请求更多信息，或使用提示检查患者档案的特定部分。
构建医疗保健AI演进的坚实基础
随着AI技术的持续发展，医疗组织必须建立既能利用技术进步又能遵守关键法规的框架。为此，以下是构建以责任、合规与创新为核心AI基础的三个关键步骤：
1. 从一开始就践行负责任的AI原则
在考虑具体行业法规之前，医疗机构首先需要采纳能建立技术信任度的负责任AI实践。为此，需要持续评估生成式或智能代理AI的应用是否及如何引发需要法律审查和流程调整的隐私或安全问题。
例如，我们团队正在研究的另一个智能代理用例是入院评估的语音转文本转录，以及使用生成式AI代理总结通话内容。这种应用节省了大量时间，但也引发了组织可能未预见到的重要法律和合规问题。尽管患者可能已同意录音，但将这些文件输入AI工具引入了第三方中介，可能需要额外的许可权限。
这种场景凸显了需要从功能角度以及同意管理、法律风险、审计和知识产权等多个维度评估AI整合的必要性。
2. 利用数据检索和基于角色的访问标准管理AI代理与工具
将智能代理AI整合入医疗工作流程不仅仅是为AI助手构建技术能力——更关键的是安全地管理模型对PII和PHI的访问。
例如，如果AI代理试图访问患者医疗记录以为护理管理员生成摘要，必须遵循与人工发起请求相同的分层基于角色的访问控制（RBAC）。这并不意味着必须从零开始创建AI代理专用的RBAC，但企业需要将现有来自软件或解决方案提供商，以及提供商API生态系统的控制机制整合入AI工具。这确保了所有数据访问都经过验证且适当。
结论：实现更高水平的生产力和效率
医疗领域AI的使用正沿着明确的轨迹发展：从辅助人类工作者的工具逐步发展为需人工监管的半自主代理。随着AI工具准确性的提升，AI代理可能最终实现完全自主和自我学习，这将彻底改变传统软件的角色。
这种快速变化突显了医疗机构需要以紧迫感和精准度推进其AI进程。早期采用者可以开始构建必要的安全和法律框架，同时可能影响政策和产品决策——为其在AI驱动的未来奠定领导地位。
【全文结束】
