当前医疗机构面临的最关键问题是对人工智能的治理和安全保护，因为AI正迅速从被动提供洞察转向在临床和运营工作流程中的主动执行。
这是新泽西州莫里斯敦大西洋健康系统(Atlantic Health)的首席信息和数字转型官苏尼尔·达德拉尼(Sunil Dadlani)的观点。
"机遇是真实的：AI可以减轻文档负担、弥补护理缺口、加速事先授权并改善患者获取医疗服务的途径，"达德拉尼解释道。"但如果没有严格的治理和网络安全措施，同样的技术可能会引入临床风险、加剧不平等并扩大攻击面。"
大规模信任
"基于第一手经验，最大的挑战是实现大规模信任，"达德拉尼补充道。"我们已经看到试点项目带来了有意义的成果，例如提高术前准备就绪度并减少可预防取消的自动化工具，同时也暴露了新的故障模式：摘要中的幻觉内容、在不断变化的临床语言上训练的模型漂移，以及无法清晰解释数据来源的供应商工具。"
在安全方面，他补充说，每一次新的人工智能集成都会增加身份、API和数据泄露风险——尤其是当第三方处理受保护健康信息(PHI)时。
"这一趋势将使AI问责框架成为与HIPAA（健康保险流通与责任法案）合规性同等标准，"他指出。"现在就构建这种治理基础设施的医疗机构将处于领先地位。那些不这样做的将面临监管、声誉和临床方面的后果。"
不是一系列试点项目
大西洋健康系统将此视为企业运营模式，而非一系列试点项目。
首先，它建立了统一的AI治理结构，包括临床领导、合规、隐私、安全和运营——在任何东西触及生产工作流程之前，有明确的准入、风险分级和可行/不可行标准。每个用例都有负责的临床负责人、定义的成功指标和监控计划。
"其次，我们正在标准化技术架构，"达德拉尼解释道。"我们将AI部署整合到一个安全的集成层后面，该层具有最小权限访问、强大的身份控制，以及超越营销宣传的供应商尽职调查。我们要求提供数据谱系、模型限制、可审计性以及明确的PHI处理实践。"
"一个具体例子是我们推出的面向患者的手术准备自动化工具，"他继续说道。"它减少了可避免的取消和电话量，但我们只有在临床团队验证脚本、嵌入人工升级路径，并通过质量检查和错误报告对其进行仪器化后，才将其规模化。"
达德拉尼补充说，下一阶段是持续评估——随着时间的推移衡量安全性、公平性和结果——因为AI性能不是一次性认证；它是一项持续的运营责任。
"除了治理之外，我们还大力投资于临床工作人员的AI素养——因为工具的有效性仅限于解释其输出的人，"他说。
"我们还在试点一个实时模型监控仪表板，在其成为临床风险之前标记性能漂移，"他补充道。"这种持续监督正是负责任的AI操作化所在。"
同行可采取的行动
达德拉尼对医疗IT领导者同行提出了一些重要的人工智能建议。
"我想对任何其他高管说的第一件事是：不要将AI纯粹视为IT问题。它不是，"他说。"它同时是临床、伦理、财务和运营挑战——需要企业级所有权。指定负责的领导层。每次AI部署都需要一位高管赞助商、一位临床负责人，以及跨越隐私、合规和安全护栏的风险负责人。如果责任分散，安全和价值将不一致。"
"第二，领导者必须尽早对伦理对话感到不适，"他建议。"关于算法偏见、患者对AI辅助治疗的同意，以及当AI建议导致不良后果时的责任等问题——这些不再是假设性的。"
达德拉尼建议，第三，在AI雄心超越基础设施之前，投资数据基础。
"我看到一些医疗机构在碎片化、无治理的数据基础上追逐复杂的人工智能用例，"他说。"你无法在不可靠的数据层上构建可靠的智能层。"
"第四，重新设计工作流程，而不仅仅是技术，"他继续说道。"许多组织低估了变革管理。培训临床医生和工作人员如何安全使用AI、何时验证输出以及如何升级到人工处理。以与任何临床质量计划相同的方式衡量采用率和结果。"
最后，达德拉尼表示，要有目的地建立外部合作伙伴关系——与学术医疗中心、AI技术领导者、同行医疗机构和监管机构合作。
"我们并非都需要独立解决这些问题，"他总结道。"这些挑战的影响太重大、太复杂，无法依靠机构孤立来解决。"
【全文结束】