继6月宣布合作后，联合委员会与健康人工智能联盟(CHAI)近日发布了关于医疗保健领域负责任使用人工智能的指导文件。
两家机构正全力协助患者护理组织领导者推进人工智能(AI)的负责任开发。
该指导的发布正值美国医疗领域人工智能开发加速之际。
总部位于伊利诺伊州奥克布鲁克台地的联合委员会已与健康人工智能联盟(CHAI)合作发布人工智能相关指导。CHAI是由医疗机构、政策制定者和技术供应商组成的协作组织，其明确使命是"通过促进医疗行业(包括产业界、政府部门、学术机构及患者社群)的协作，推进医疗领域人工智能的负责任开发、部署与监管"。此次合作早有预期，因联合委员会与CHAI已于6月宣布将在此领域开展协作。
联合委员会9月17日在其官网发布的新闻稿开篇指出："今日，联合委员会与健康人工智能联盟(CHAI)共同推出合作首项成果——《医疗保健领域人工智能负责任使用指导》，该文件将作为内部治理框架，助力美国医疗系统安全有效地规模化实施人工智能(AI)。此指导标志着双方2025年6月启动的战略合作伙伴关系的首个重要里程碑。"新闻稿援引联合委员会主席兼首席执行官乔纳森·珀林医学博士的讲话："我们深知AI正在以我职业生涯中前所未见的规模和速度改变医疗行业。自宣布与CHAI合作伊始，我们就希望这种伙伴关系既能体现快节奏发展动态，又能为医疗组织提供深思熟虑且简明扼要的AI自主治理指导。"
新闻稿进一步说明："该指导包含人工智能负责任使用的高层级建议，专为处于AI应用不同阶段的医疗机构设计，确保其可访问性、适用性和适应性。具体而言，它确立了相关政策框架，要求进行适当的本地验证、监测和应用，并可根据各组织具体情况灵活解读并整合到现有或新流程中。本指导旨在提高联合委员会-CHAI合作流程的透明度，社区反馈将纳入后续成果。"
CHAI首席执行官布莱恩·安德森医学博士表示："需求迫在眉睫，我们亟待响应。此指导及后续所有操作手册不仅定义负责任的AI，更致力于使其在全国各级医院和医疗系统中切实可用——无论其资源水平如何。"
新闻稿指出："系列成果计划于今年晚些时候至2026年陆续推出。下一阶段将发布治理操作手册，此前将举办系列研讨会确保各级各类医疗机构参与开发过程。这些手册将在原始指导基础上，结合社区反馈提供更具实践性和应用性的细节。此后，联合委员会将基于最终版手册开发自愿性AI认证体系，并向其全国2.2万余家认证医疗机构开放。"新闻稿强调："联合委员会基于证据的标准体系、覆盖范围与规模，结合CHAI的技术专长和广泛网络，使双方具备独特能力，可指导医疗系统有效利用AI改善患者预后。此外，持续合作将促进专家驱动和实践导向的指南与防护机制创新，提升生产力并减轻医护人员行政负担，最终实现更优健康成果。"
题为《医疗保健领域人工智能负责任使用》的完整文件指出："AI带来的变革性机遇并非毫无风险...首要担忧是AI错误的潜在风险，这些错误可能源于算法偏见、数据不准确或医疗环境中的意外交互。此类错误将导致误诊、不当治疗方案，最终危害患者安全。此外，AI决策过程缺乏透明度(常被称为'黑箱'问题)在理解和信任方面构成重大挑战。另一风险涉及数据隐私与安全。AI系统需大量数据才能有效运行，这引发了对保护敏感患者信息的担忧。数据安全漏洞及患者数据用于非预期用途(如商业获利)可能损害患者保密性和信任，引发法律与伦理后果，并抑制未来AI工具的应用。"
文件进一步指出："AI发展的快速步伐也可能超越医疗机构跟上必要培训和更新的能力。这种知识差距可能导致AI工具的不当使用，进一步加剧患者安全风险。此外，过度依赖AI可能弱化人类判断在临床决策中的作用，导致医疗服务去人格化并引发潜在伦理困境。最后，即使经美国食品药品监督管理局(FDA)验证和/或批准的AI软件或医疗器械，其与现有医疗系统的整合仍具挑战性，需要对临床工作流程进行重大调整，这可能扰乱既定流程、导致错误并引发医疗专业人员的抵触情绪。"
【全文结束】
