健康AI联盟（CHAI）于周五发布了其AI质量保证实验室认证框架草案，以及提供有关AI模型信息的草案。CHAI的目标是制定负责任使用AI的指南，计划验证测试这些模型的实验室是否与开发人员没有财务联系，能否创建足够的测试数据，并拥有必要的技术基础设施和员工等要求。CHAI首席执行官Brian Anderson在接受Healthcare Dive采访时表示，这些实验室还需展示他们能够测试临床稳健性、透明度等特性，以及偏差和可用性等指标才能获得认证。
CHAI还发布了一种实验室报告结果的方式。草案中的CHAI模型卡是一种标准模板，旨在为健康AI买家提供更多购买前的信息，例如预期用途、目标患者群体、维护要求以及已知的风险和偏见。
CHAI成立于2021年，旨在解决医疗保健中安全有效采用AI的技术细节问题。这是一个让专家、立法者和监管机构担忧的问题，他们担心这项新兴技术可能会引入错误或偏见，从而加剧现有的健康不平等。该联盟由近3000个卫生系统、专业组织、技术提供商、初创公司和其他医疗保健公司组成。
CHAI计划的一部分包括一个质量保证实验室网络，这些实验室将根据AI标准测试模型并验证其性能。“这是在每一个有重要影响的行业都会发生的事情，”Anderson说，“你不会开一辆未经独立机构测试的汽车，也不会登上一架未经测试的新飞机。……这些都是我们习以为常的事情。我们在AI中没有这样做，尤其在健康AI中更是如此。”
根据草案框架，实验室必须证明它们没有利益冲突，并且能够收集高质量和多样化的测试数据集。它们还需要展示能够测试临床稳健性、透明度等特性，以及偏差和可用性等指标才能获得认证。这些实验室可以发布成绩单，即详细记录模型测试结果的文件，以及CHAI称之为“营养标签”的模型卡，供研究AI的采购人员参考。
模型卡也与HTI-1规则相契合，该规则于去年年底最终确定，旨在为新命名的助理技术政策部长/国家协调员办公室认证的AI产品建立透明度要求。该规则要求临床决策支持和预测工具的开发者分享预期用途、不适当的用途或设置以及已知风险等信息。
CHAI现在正在征求对草案框架的反馈意见，计划于2025年4月发布最终认证流程和模型卡设计。
(全文结束)
