Greg Samios，威科健康首席执行官，致力于推动以客户为中心的创新与转型型 workforce。
人工智能无疑具有巨大的颠覆潜力，而在医疗领域这一特点尤为显著。新型企业级AI工具正推动临床、行政和研究应用场景的进步，逐步解决该行业过去二十年面临的最紧迫挑战。
随着临床医生积极寻求节省时间、提升工作效率的工具，我们发现越来越多未经充分审核或不符合医疗机构AI政策的解决方案被投入使用。去年，"影子AI"（即组织内未经授权或未经验证的AI工具及应用程序的使用）现象急剧上升。高达40%的医疗专业人员在工作场所接触过未经授权的AI工具，近20%承认曾使用过此类工具。
事实上，许多医疗人员出于改善效率的善意采用了这些AI应用，尤其在职业倦怠率居高不下和持续面临人员短缺的背景下。然而这些工具无意中引入了新的风险隐患。未经验证的AI工具可能缺乏必要的防护措施，增加了隐私泄露和网络攻击的风险——这两类事件目前均呈上升趋势。此外，影子AI的使用还引发了关于模型有效性的重要考量，以及确保准确性、防范模型漂移、幻觉输出和偏差所必需的性能监控问题。
所有这些都威胁着临床医生、患者与医疗机构之间的信任基础。临床医生必须确信其所用AI工具未受损害；患者通常基于对医疗服务提供者的信任而就诊，如今还需同时信任医生对AI工具的使用、机构的AI政策及其提供的AI工具；医疗机构则需与供应链供应商建立信任关系，确保对数据、模型、安全、隐私、治理和合规性具有清晰的可见性。
那么，医疗机构如何遏制影子AI的使用并维持信任体系？
影子AI的兴起本身就是临床反馈
现实情况是，影子AI的采用往往反映了真实（或感知到的）未满足需求，临床医生可能在寻找能帮助他们更高效工作的工具。
美国医疗AI支出在2025年达到14亿美元，较前一年增长三倍。技术投资的激增——以及医疗领导团队在这些投资回报率方面承受的压力——可能导致仓促部署、试点漏洞或未能有效传达现有经审核AI工具的信息。
我经常与医疗系统领导者会晤，他们希望确保其AI投资具备可信度、可扩展性并得到充分利用。以下是在选择和实施临床AI工具时的若干最佳实践：
采取"团队协作"模式
AI领域发展迅猛。采用"团队协作"模式，整合临床医生、产品与工程、IT、运营以及法律合规团队，能够赋能各利益相关方并确保关键考量得到充分解决，包括：
可用性与投资回报
明确定义问题范畴，建立以临床医生为中心的协作流程，确保工具实现预期目标。聚焦AI的应用方式、所需API或系统连接、计划开展的试点测试与反馈渠道，以及衡量价值的关键绩效指标。
可扩展性
随着医疗AI加速发展，最大的转变不仅在于架构，更在于组织层面。我们正见证技术、产品与用户体验的融合。各利益相关方应紧密协作，围绕工作流程展开，并通过模块化架构进行快速实验，使系统能够安全地在企业范围内扩展。
伙伴关系
选择那些透明且秉持高安全标准、责任感、可信度与隐私保护的技术供应商伙伴，并提供嵌入式功能以优化用户体验。
信任至上
任何AI部署的核心支柱是将负责任的AI原则融入所有环节。面对大量新技术涌入市场、模型差异性增大以及多源数据在系统中流动的情况，我在实践中验证了以下防护措施在部署AI时的价值：
全流程隐私设计与安全保障
在每个环节保护数据安全，通过所有流程确保AI系统安全可靠。这包括使用审计追踪记录访问、存储和使用情况，并确保符合HIPAA、FHIR和HL7等合规标准。
透明度
向关键利益相关方清晰说明模型功能、局限性及错误处理方式，以及数据的使用、共享和存储方法。
公平性监测
持续测试并追踪任何模型漂移、幻觉输出或偏差现象，并立即解决数据及输出中的缺陷。
专家监督
在高风险场景中保持人工介入，以验证输出结果并确保临床准确性。通过可追溯性和来源记录实现数据制衡。
治理与问责制
建立开发标准及持续改进流程，优先考虑负责任的AI原则，并通过严格的设计开发测试来管理风险、解决问题。
清晰高频的政策沟通
随着新工具、功能以创纪录速度推出，应设立用户反馈论坛以促进改进与创新构思。这将帮助机构优化技术路线图、更有效地分配AI投资，并为临床团队及组织奠定更大成功基础。
当医疗机构应对AI快速采用时，影子AI的兴起清晰表明临床医生迫切需要能减轻行政负担、提升诊疗质量的工具。然而，AI的未来取决于能否提供值得信赖的工具和解决方案，这些方案必须满足——甚至超越——临床医生每日赖以提供最佳医疗服务的需求。将每项举措植根于明确需解决的问题，动员跨职能团队，嵌入负责任的AI原则，并持续沟通价值与政策，将帮助医疗领导者把工具需求转化为具有持久投资回报的可信创新。
【全文结束】
