CHAI（医疗AI联盟）上周五公布了其如何认证独立人工智能保障实验室的新计划。该草案框架是在包括梅奥诊所、宾夕法尼亚大学医学中心和斯坦福大学等大型医疗系统，以及亚马逊、谷歌、微软等科技巨头的参与下制定的。这些框架可能在六个月后经过更多利益相关者的反馈最终确定，为人工智能保障实验室和基本模型透明度提供了一条前进的道路。
CHAI领导人表示，在整合成员、合作伙伴和公众的反馈意见后，预计到2025年4月底，可以推出认证标准和模型卡设计。为何重要 这一CHAI认证项目框架是由ANSI国家认可委员会和几家新兴的质量保证实验室使用ISO 17025标准创建的，ISO 17025是全球测试和校准实验室的主要标准。其中的要求包括强制披露保障实验室和模型开发者之间的利益冲突，以及保护数据和知识产权。
这一标准也被用于国家卫生信息技术协调办公室的电子健康记录认证项目。此外，认证项目还集成了FDA关于使用高质量真实世界数据的草案指南中的数据质量和完整性要求，CHAI从各个工作组获得的测试和评估指标，以及与国家医学科学院的AI行为准则的一致性。
CHAI模型卡提出了一个标准模板，提供关键信息以支持AI解决方案性能和安全性的评估。模型卡包括开发者的身份、预期用途、目标患者群体、AI模型类型、数据类型、关键性能指标、安全和合规认证、维护要求、已知风险和不适用用途、已知偏见、伦理考虑和第三方信息（如相关临床研究）。
模型卡由一个代表各种利益相关者的工作组设计，包括区域医疗系统、EHR解决方案供应商、医疗器械制造商和医疗AI领导者及初创公司。它被设计为采购过程中审查AI模型的起点，也是EHR供应商需要遵守ONC健康IT认证项目（HTI-1）的工具。CHAI完成了对所有HTI-1要求的评估，并从临床医生、医疗系统组织数据保管人和开发者那里收集了关于应包括哪些额外信息的共识建议，这些信息超出了现有的监管要求。
CHAI将积极与医疗生态系统中的利益相关者互动，包括患者倡导者、资源不足的当地医疗系统和初创公司，以获取更多反馈。要提供反馈，请使用此保障实验室表单和模型卡表单。
“AI在医疗领域的快速发展创造了一个可能感觉不受监管和分散的环境，”CHAI应用模型卡工作组成员、Aidoc首席转型官Demetri Giannikopoulus在声明中表示。“通过建立与联邦法规一致的共同框架，我们超越了理论讨论，为可扩展、可靠和合乎伦理的AI解决方案奠定了基础，这些解决方案可以在整个医疗生态系统中采用。”
更大趋势 自2021年成立以来，CHAI一直与其他有类似目标的组织合作，成为值得信赖的AI来源，无论是涉及患者安全、隐私和安全、公平和公正、模型透明度还是效用和效能。随着技术的发展和普及，联盟也在不断壮大，汇聚了来自医院和医疗系统、大型科技公司、初创公司、政府机构和患者倡导者的各种利益相关者。
官方表态 “今年对CHAI来说是一个转折点，我们在帮助实现本地监控和验证的可信独立AI解决方案方面取得了进展，”CHAI主席Anderson在声明中表示。“我们对CHAI工作组的进展感到非常兴奋，这些工作组代表了医疗生态系统中的多样视角和专业知识。”
这些认证和基本透明度框架是负责任的医疗AI的基石。它们将有助于简化AI创新的路径，增强患者和临床医生的信任，并使医疗系统和解决方案创新者在即将出台的州和联邦法规面前处于有利地位。
(全文结束)
