Coalition for Health AI（CHAI）推出了一系列旨在创建更安全、更公平的医疗保健AI应用的举措。
解决AI透明度：模型卡计划
CHAI的模型卡计划旨在为评估AI模型创建一个结构化和透明的框架。CHAI首席执行官Brian Anderson博士将这种卡片比作AI的“营养标签”。它将提供信息，包括AI开发者的身份、预期用途、目标患者群体、性能指标、安全认证、潜在风险和伦理考虑。
Anderson博士告诉《Becker's》，这些模型卡设计用于医疗机构在采购过程中的使用，以及EHR供应商必须遵守ONC Health IT Certification Program的要求。“医疗机构需要了解AI模型是如何构建的，使用了什么数据，以及是否存在可能对患者护理产生负面影响的偏见，”Anderson博士说。“模型卡旨在标准化这些信息，帮助医院做出更明智的决策。”
CHAI汇集了AI供应商和医疗保健组织，共同创建了这些模型卡的标准化格式，这些卡片概述了模型的输入、限制和独立评估。据Anderson博士介绍，该计划旨在平衡保护供应商的知识产权，同时为医疗机构提供足够的信息，以确保AI模型的安全、有效且无不当偏见。
注重透明度
CHAI还推出了Assurance Lab Certification Framework，这将创建一个独立实验室网络，以评估和认证用于医疗保健的AI模型。Anderson博士表示，该框架旨在通过确保模型经过独立测试，以确保其安全、准确和公平，从而建立对AI的信任。“医疗保健AI领域仍然像西部荒野一样，”他说。“这些模型的实际表现存在很多不透明之处。我们的保证实验室认证框架是为了创建医院可以依赖的可信、无利益冲突的评估。”
该框架的一个关键组成部分是确保实验室免受利益冲突的影响。实验室将根据ISO标准进行审计，以确保其评估的客观性。这一评估过程对于帮助医院避免可能损害患者的有偏见的AI模型至关重要，Anderson博士说。该计划还旨在创建一个能够针对代表性患者群体的数据集测试AI模型的实验室网络。“这个网络是一个强有力的例子，展示了我们如何确保AI部署的公平性，”Anderson博士说。“服务小型和服务不足人口的医院将能够信任他们使用的AI工具是在反映其特定患者群体的数据集上进行评估的。”
这对医院意味着什么
对于医院来说，这些举措代表了负责任和安全地采用AI的重要一步，Anderson博士说。随着医院越来越多地依赖外部合作伙伴来验证和部署新技术，CHAI的模型卡和保证实验室认证框架旨在提供工具，帮助组织自信地应对AI实施。“我们对未来的前景感到兴奋，”Anderson博士说。“这些举措只是开始，但它们是朝着建立一个未来的关键步骤，在这个未来中，AI真正能够更好地改变医疗保健。”
CHAI正在积极征求患者倡导者、资源不足的卫生系统和初创企业的反馈，以完善认证流程和模型卡模板，Anderson博士表示。CHAI的成员包括位于明尼苏达州罗切斯特的梅奥诊所、微软和位于巴尔的摩的约翰霍普金斯大学。
(全文结束)
