健康人工智能联盟(CHAI)与联合委员会近日发布指导文件,为加速采用人工智能技术的医疗系统提供组织管理核心原则框架。
该指导文件未详细说明医院及医疗系统如何具体实施相关原则——包括持续监测与患者隐私保护等要素。两家机构承诺后续将联合行业利益相关方共同开发系列操作手册,提供具体实施细则。这些操作手册将为联合委员会2026年推出的自愿性AI认证计划奠定基础。
联合委员会作为美国规模最大的医疗机构认证机构(成立于1951年),其公信力是CHAI选择合作的关键原因。CHAI首席执行官布莱恩·安德森博士在接受《Fierce Healthcare》采访时表示,双方于2025年6月宣布合作,此次发布的《医疗健康领域人工智能负责任使用》(RUAIH)指导文件是首项合作成果。尽管文件层级较高,但旨在公开双方协作内容,并作为推动社区反馈的"机制",为后续AI操作手册开发提供重要输入。
安德森表示:"我们希望通过此文件发布初步反馈和工作坊成果,启动更深入、更有针对性的成员机构对话。"联合委员会发言人在邮件中确认,CHAI主导操作手册编写工作。考虑到不同规模医疗机构在AI部署与监测方面的资源差异,操作手册将按机构类型和规模定制。CHAI将组建专门工作组,特别纳入联邦认证健康中心,确保其独特需求(如医疗补助计划应用场景)得到满足。
安德森强调:"我们的核心任务是让手册适配各类医疗机构的实际情况,避免仅服务于大型医疗系统。"双方计划通过2025年内系列线上研讨会收集反馈,医疗系统也可通过CHAI官网提交意见。联合委员会指出,自愿认证计划虽不按机构规模分级,但将考量申请方资源状况。
指导文件要求医疗机构建立正式AI治理体系:指定具备技术或医疗经验的负责人;制定AI审查、采购及实施政策;建立安全、风险与隐私保障协议。为增强患者信任,需设立AI使用披露机制并开展工具价值教育,当AI直接影响诊疗时必须通知患者数据使用情况,并在适当时获取AI使用同意。
医疗机构须遵守HIPAA(美国健康保险流通与责任法案)数据泄露通知要求,与供应商签订业务关联协议,并实施加密、严格访问控制、定期安全评估及应急预案等数据保护措施。文件强调基于风险的持续质量监测至关重要,建议医疗机构向供应商核查验证方法、本地验证可能性及偏见评估范围。
CHAI与联合委员会提出多种质量监测方案:自主开发监测系统或与第三方供应商(包括电子病历公司)建立合同协议。医疗机构需明确本地监测责任主体,定期开展验证与质量测试,并与供应商建立性能更新沟通机制。RUAIH框架倡导向患者安全组织等独立机构自愿匿名报告AI安全事件,此类保密披露有助于识别行业风险模式并减少监管干预。CHAI即将推出的"健康AI注册库"将支持以质量改进为目的的自愿报告。
医疗机构应要求供应商披露AI解决方案的已知风险与偏见,询问偏见评估方法及适用人群,并在本地验证及持续监测中进行风险评估。CHAI推广的"应用模型卡"可帮助供应商识别潜在风险。框架最后部分聚焦教育培训:机构需向员工说明系统部署的AI应用场景,明确用户获取AI信息的渠道,并评估特定工具是否需要附加培训。指导文件建议开展AI素养与变革管理教育计划。
【全文结束】