您需要了解的关键点
- 联合委员会（The Joint Commission）与健康人工智能联盟（Coalition for Health AI，简称CHAI）发布了非约束性指南，概述了医疗健康领域人工智能负责任使用的原则，包括治理、隐私与透明度、数据安全、安全事件报告以及风险与偏见评估。
- 尽管这些建议是自愿性的，但它们与美国食品药品监督管理局（FDA）关于人工智能赋能医疗设备和药物发现的指南中的主题相一致。
- 为医疗组织开发人工智能的提供商以及在临床工作流程中部署人工智能的医疗组织应考虑跟踪不断发展的行业共识，并采取合理的、基于风险的步骤来与这些原则保持一致。
新发布的指南为采用、评估和管理临床及运营环境中人工智能驱动工具的医疗组织提供了非约束性考虑因素。由联合委员会（JC）和健康人工智能联盟（CHAI）发布的《医疗健康领域人工智能负责任使用》确立了七个关键领域的原则，旨在促进医疗健康领域人工智能的安全、有效、公平和符合伦理的使用：
- 人工智能政策与治理结构——制定实施和使用人工智能的政策，并建立治理结构，使医院的管理机构了解健康人工智能工具的使用情况、结果和潜在缺点。包括结构和监督机制，以及来自关键利益相关者的专业知识，包括（适当情况下）高管领导层、法规/伦理合规、信息技术、网络安全、安全/事件报告以及相关临床/运营领域的专家，以确保考虑到所有受影响人群的需求。
- 患者隐私与透明度——实施关于数据访问、使用和保护的政策，并建立机制向患者及其家属披露和教育人工智能工具的使用和益处。此外，当人工智能直接影响患者护理时，应通知患者，并告知其数据在人工智能背景下的使用方式。
- 数据安全与数据使用保护——通过实施明确的数据安全政策和限制导出数据的允许用途来保护患者数据。即使数据根据《健康保险流通与责任法案》（HIPAA）进行了适当的去标识化，组织也应采取强有力的保护措施和合同保障，特别是针对潜在的重新识别风险以及任何适用的州法律或合同义务。
- 持续质量监控——建立流程以监控和评估健康人工智能工具的安全性能。在采购过程中，要求供应商提供有关人工智能工具如何测试和验证、如何评估/减轻偏见，以及供应商是否愿意调整或验证代表部署环境的样本的信息。建立部署后监控和持续验证及测试活动，采用基于风险的方法，根据环境和人群规模进行调整，并考虑与患者护理决策的接近程度。
- 人工智能安全相关事件的自愿、匿名报告——通过向能够向行业分享信息的独立组织自愿报告人工智能相关的安全事件，促进整个医疗行业的知识共享。现有的报告和评估安全与质量问题的结构包括联合委员会（JC）的哨兵事件流程和向联邦指定的患者安全组织进行的机密报告。
- 风险与偏见评估——建立流程以识别和解决健康人工智能工具中的风险和偏见，特别是当它们对患者安全构成威胁或限制获得护理时。在验证本地数据和部署后，收集供应商的信息并进行内部偏见检查。考虑训练数据集是否适合目的且具有代表性、人工智能工具是否经过偏见检测评估，以及算法是否针对所服务的人群进行了测试。
- 教育与培训——向使用人工智能工具的医疗提供者提供培训和教育材料，使他们了解益处并能够帮助预防潜在风险。
尽管这些建议不具有监管效力，但它们反映了其他权威背景中的主题，包括FDA关于人工智能赋能医疗设备和药物发现系统的指南。特别是，对风险评估、偏见缓解和数据代表性、持续监控、透明度和网络安全的强调，与之前FDA指南的方向相一致。
联合委员会（JC）和健康人工智能联盟（CHAI）的指南有助于形成医疗健康领域负责任使用人工智能的日益增长的共识，表明认证机构、监管机构和专业协会可能期望随着时间推移与类似原则保持一致。在临床工作流程或相关医疗决策中开发或部署人工智能工具的组织应监控这一行业对话如何继续发展，并考虑采取合理的、基于风险的步骤来与这些原则保持一致。这可能涉及审查内部治理结构、记录围绕人工智能采用的决策过程、确保数据来源、验证和监控人工智能在实际使用中的性能，以及采用检测和解决偏见的策略。
支持医疗组织的人工智能工具提供商同样将在实施这些原则方面发挥重要作用。提供商应预期客户关于验证数据、偏见测试和部署后监控的询问，并可能希望主动记录其内部治理、数据管理和模型更新实践。开发偏见测试摘要和审计就绪文档等内容，不仅可以促进客户合规，还可以使供应商在日益严格的监管环境中成为首选合作伙伴。随着认证和监督机构对负责任的人工智能治理提出更正式的期望，早期与联合委员会/健康人工智能联盟（JC/CHAI）原则以及其他新兴平行框架保持一致，最终可能提供竞争优势。
总的来说，这些发展凸显了医疗健康行业向人工智能治理、问责制和透明度的正式期望更广泛转变。通过主动将内部政策、合同框架和供应商关系与联合委员会/健康人工智能联盟（JC/CHAI）原则保持一致，医疗组织及其人工智能工具提供商都可以加强患者信任，降低运营和法律风险，并在新兴的监管和认证趋势面前占据有利位置。
【全文结束】
