一个由领先的医疗系统和技术公司组成的联盟正积极推进其在医疗保健领域自主监管人工智能（AI）的计划。医疗AI联盟（CHAI）的成员包括梅奥诊所、微软和约翰霍普金斯大学，该联盟计划建立一个质量保证实验室网络来评估AI工具。今天，它详细说明了这些实验室需要做些什么。
该联盟表示，实验室将评估AI工具是否：
- 能够有效运行并在研究中使用
- 产生有偏见的结果或在不同患者群体中表现不同
- 提供持续的性能监测
CHAI表示，将根据实验室的能力对其进行认证。一些实验室可能进行部署前的评估和审计，另一些则进行部署后的监测，有些实验室可能能够完成所有三项任务。该联盟将根据领域专业知识（如基于图像的AI或偏见检测）对实验室进行认证，同时确保实验室没有利益冲突并保护其审查的数据的机密性。所有实验室都必须遵守国际标准化组织（ISO）定义的测试实验室标准。国际标准化组织是一个总部位于瑞士的非政府组织，旨在确保技术平台能够在不同国家之间正常运作。
该组织还公布了与卫生与公众服务部（HHS）要求一致的AI透明度标准，这些标准适用于寻求政府认证的企业。今年9月，HHS官员表示，该部门正在制定一项AI战略，该战略将于明年1月公开，其中包括一个质量保证实验室网络和一个AI安全项目。不久之后，HHS技术政策助理部长Micky Tripathi告诉POLITICO，质量保证实验室将是该战略的一部分，他正在等待AI开发者和购买者就验证过程应如何进行达成共识。他还表示，HHS正在密切关注包括医疗AI联盟、加州大学戴维斯分校发起的VALID AI以及杜克大学的医疗AI合作伙伴关系等私营部门主导的努力，但他尚未正式支持其中任何一项。
然而，Tripathi和FDA数字健康主任Troy Tazbaz此前均担任过CHAI的顾问。
(全文结束)
