拉斯维加斯，2024年10月18日 —— 今天，健康 AI 联盟（CHAI）推进了其关于如何认证独立质量保证实验室以及如何通过 CHAI 模型卡标准化这些实验室测试健康 AI 模型输出的草案框架，类似于成分和营养标签。CHAI 的认证流程和模型卡设计预计将在 2025 年 4 月底前完成，经过 CHAI 成员、合作伙伴和公众的审查和反馈。
“今年对 CHAI 来说是一个关键年份，我们在帮助实现可信的独立 AI 解决方案本地监测和验证方面取得了进展。我们很高兴看到 CHAI 工作组在健康生态系统中代表多样化的视角和专业知识方面取得的进展，”CHAI 首席执行官布莱恩·安德森医学博士（Brian Anderson, MD）表示。“这些认证和基本透明度框架是负责任的健康 AI 的基石。它们将有助于简化 AI 创新的路径，建立患者和临床医生的信任，并使健康系统和解决方案创新者领先于即将出台的州和联邦法规。”
CHAI 独立质量保证实验室认证
CHAI 认证项目的草案框架是在与美国国家标准学会国家认可委员会（ANSI National Accreditation Board）和几家新兴的质量保证实验室合作下创建的，这些实验室使用 ISO 17025 标准，这是全球测试和校准实验室的主要标准。要求包括强制披露质量保证实验室与模型开发者之间的利益冲突，以及保护数据和知识产权。该标准也被卫生信息技术国家协调办公室（ONC）用于电子健康记录（EHR）认证项目。此外，认证项目还整合了 FDA 关于使用高质量真实世界数据的草案指南中的数据质量和完整性要求、CHAI 各个工作组提供的测试和评估指标，以及与国家医学科学院 AI 行为准则的对齐。
“作为一名拥有 35 年医疗技术行业经验的老兵，我曾经历过健康交付组织和医疗技术公司之间在产品开发和治理实践方面的多年挫折，”金斯波丁律师事务所 FDA 和生命科学业务的高级质量体系和合规顾问埃里克·亨利（Eric Henry）表示。“我对 CHAI 承诺将其质量保证实验室指南映射到国际公认的共识医疗器械和医疗保健标准感到鼓舞。这一努力将导致在评估 AI 支持的健康技术方面，这两个关键参与者在医疗保健生态系统中形成更加和谐的观点。”
CHAI 模型卡，健康 AI 的“营养标签”
CHAI 模型卡的草案提供了一个标准模板，以提供关键信息来支持 AI 解决方案性能和安全性的评估。模型卡包括开发者的身份、预期用途、目标患者群体、AI 模型类型、数据类型、关键性能指标、安全和合规认证、维护要求、已知风险和超出范围的用途、已知偏见、伦理考虑和第三方信息（如相关临床研究）。模型卡由一个代表各种利益相关者的小组设计，包括区域健康系统、EHR 解决方案供应商、医疗器械制造商和健康 AI 领导者及初创公司。
模型卡被设计为那些在采购过程中审查 AI 模型的人以及需要遵守 ONC 健康 IT 认证计划（HTI-1）的电子健康记录（EHR）供应商的起点。CHAI 完成了对所有 HTI-1 要求的评估，并从临床医生、健康系统组织数据保管人和开发者那里收集了关于应包括哪些额外信息的共识建议，超越现有的监管要求。
“AI 在医疗保健领域的迅速发展不仅是一个机会，也是一个行动号召。我们必须将原则转化为具体的步骤，以促进信任和问责制。一个通用的、用户友好的应用模型卡可以成为临床医生、健康系统和患者的强大工具，”Oracle Health 健康数据智能副总裁克里斯汀·斯威舍博士（Christine Swisher PhD）表示，她也是 CHAI 模型卡工作组的负责人。
“AI 在医疗保健领域的快速演变创造了一个可能感觉不受监管和分散的环境。CHAI 努力引入标准化模型卡是确保 AI 驱动临床应用透明度、安全性和信任的关键一步，”Aidoc 首席转型官德米特里·吉亚尼科普洛斯（Demetri Giannikopoulus）表示，他也是 CHAI 应用模型卡工作组成员。“通过建立与联邦法规一致的共同框架，我们正在超越理论讨论，为可扩展、可靠和道德的 AI 解决方案奠定基础，这些解决方案可以在整个医疗保健生态系统中采用。这一举措确保每个 AI 解决方案都可以进行严格评估，为临床医生、患者和医疗保健组织带来真正的价值。”
认证项目和模型卡的初步草案将在 CHAI 全球峰会上展示，该峰会将于 2024 年在 HLTH 举行。CHAI 将积极与医疗保健生态系统中的利益相关者互动，包括患者倡导者、资源不足的当地健康系统和初创公司，以获得额外反馈。要提供反馈，请使用此 质量保证实验室表单 和 模型卡表单。
关于 CHAI
CHAI（健康 AI 联盟）的使命是成为健康领域负责任 AI 指南的可信来源，服务于所有人。它旨在确保高质量的护理，增强用户信任，并满足不断增长的医疗保健需求。作为一个汇聚了代表健康系统、初创公司、政府和患者倡导者的领导者和专家的联盟，CHAI 建立了多个工作小组，重点关注 AI 算法的隐私和安全、公平性、透明度、有用性和安全性。
(全文结束)
