引言
尽管医疗保健中的人工智能依赖于跨学科合作，但参与其开发和实施的人员往往各自为政，对彼此的实践了解有限。因此，建立共享框架对于协调日益增多的专业领域、利益和关切的最佳实践至关重要。负责任的人工智能需要对伦理和质量管理原则的共同理解，并要求将这些原则转化为评估人工智能系统的实用、透明方法。本文探讨了在医疗保健领域围绕人工智能指南建立共识的目标、挑战和策略，借鉴了医疗人工智能联盟(Coalition for Health AI, CHAI)的早期经验。
从2023年到2024年，CHAI领导了一项为期一年的共识建设倡议，以开发《负责任AI指南》——一个将高层原则转化为具体建议的框架（Elmore等人即将发表）。该努力从100多个组织的人员那里获取了调查见解，并召集了60多位专家进行审议——包括临床医生、患者倡导者、监管机构、数据科学家和医疗保健管理人员。这些活动不仅用于构建指南；它们强调了包容性、迭代式共识建设作为医疗保健中可信AI基础的重要性。在缺乏明确法规的情况下，像CHAI这样的机构级联盟发挥着至关重要的作用。通过将集体专业知识转化为可操作的建议，基于共识的框架可以支持问责制，并随着AI及其护理环境的演变而持续适应。
背景与现状
到2020年代初，全球政府和组织已发布了200多套AI指南（Corrêa等人2023年）。大多数指南仍然有些抽象，从未将高层原则转化为日常工作的常规实践。此外，正式的共识尚未出现。不同的群体——开发者、实施者、用户和监管机构——可以合理地使用不同的框架来实现负责任的AI，导致指导和期望的碎片化。
这个问题在医疗保健部门尤为关键，因为技术开发者必须在满足不同卫生系统要求的同时保持问责，而在某些情况下还要满足医疗器械监管机构的要求。反过来，卫生系统面临着在没有明确指导关键目标和方法的情况下，提高评估、部署和监控AI工具能力的挑战。虽然一些卫生系统已开始建立强大的内部治理，但许多仍在发展监督AI工具的能力。监督不力的AI解决方案可能会导致患者护理中的沟通不畅、延误和错误——这正是AI承诺要缓解的问题。如果不加以解决，这些问题可能会放大系统性危害并加剧健康差异（Obermeyer等人2019年）。在这种情况下，共享期望对于在不同环境中促进高质量和合乎伦理的AI实践至关重要。
由专家委员会制定的《贝尔蒙报告》（Belmont Report）仍然是一个有益的范例，用于指导涉及人类参与者的研（Parasidis, Pike和McGraw 2019年）。该报告于1979年由联邦政府发起，旨在统一先前分散的伦理原则集，它说明了结构化的多学科审议如何能够产生持久的监督结构。该报告成为机构审查委员会的基础，其原则后来通过《共同规则》（Common Rule）编纂，该规则在联邦机构中建立了对人类受试者的统一保护。
然而，美国目前不存在针对医疗保健AI的监管等效物，近期也不太可能出现。这留下了一个关键缺口，特别是随着AI系统继续以传统监督机制难以应对的方式发展。如果没有明确的全行业指导，各方都可能面临与AI相关的伤害责任——无论是临床医生、卫生系统还是开发者。这种法律风险突显了基于共识的指南的紧迫性，以澄清最佳实践。
在缺乏类似《共同规则》的联邦法规的情况下，公私合作必须定义和维护对负责任AI的共同期望。挑战不仅在于就原则达成一致，还在于将这些原则转化为可以指导AI在各种开发、采购和部署环境中的实践。HL7和FHIR（一套用于健康数据交换的标准）的成功表明，基于共识的方法可以导致行业范围的采用。受此例启发，医疗人工智能联盟(CHAI)正在努力为医疗保健AI建立实用、可衡量的指南。通过促进不同利益相关者之间的共识，这些努力在为未来的负责任AI奠定基础方面发挥着关键作用。
医疗AI领域共识的价值
医疗人工智能联盟(CHAI)是一个致力于为医疗保健中的AI建立基于共识的指南的多机构非营利组织。认识到许多AI指南是抽象的且未针对医疗保健量身定制，CHAI召集工作组，从当前格局中收集各种观点，纳入在指南开发中很少合作的领域和学科。
为了定义规范性原则并将它们转化为最佳实践，CHAI工作组创建了几个关键文件——《可信AI蓝图》、《负责任AI指南》及其配套报告清单。工作组汇集了来自大型和小型技术公司、临床领域、非营利组织、政府机构、患者倡导网络以及包括传统黑人学院和大学在内的学术机构的成员。
包含各种利益相关者的一个原因是确保结果指南中代表了各种观点。另一个相关目的是确保这些指南被广泛采用。基于共识的指南开发可以推动采用，因为利益相关者更有可能采用并倡导那些反映他们关切和专业知识的指南。随着AI技术的不断发展，这种协作精神至关重要：理想情况下，它促进对适应的持续承诺，使指南随着技术进步和环境变化而保持相关性。虽然基于共识的指南可能比自上而下的标准更复杂，但它们基于现实世界专业知识的基础确保它们既实用又能响应新兴技术和挑战。
共识也具有很大的伦理意义，这就是为什么它仍然是许多医疗保健流程治理的核心。在人类研究监督、临床伦理咨询和器官分配决策等领域，委员会依靠共识通过揭示、考虑和解决不同观点来确保公平（Volk等人2011年）。作为一种伦理导向，共识优先考虑对共同利益的普遍协议，并始于这样一种信念：这种协议既是可实现的也是可取的。它在概念上不同于妥协，妥协中各方通过让步到中间立场来解决分歧，而不改变他们的核心观点（Spang 2023年）。即使没有出现完美的共识，它通常也作为指导审议过程的抱负。伦理学家Jonathan Moreno指出，追求共识体现了"对意外可能性和观点的开放性"（Moreno 1995年，45页）。因此，以共识为导向的对话与协议本身一样重要。它可以阐明个人关切并允许形成新的见解，甚至揭示开始时所有人都未注意到的关键问题。
由于对共识的向往先于达成共识的任何单一方法，因此在大规模追求共识时可能适用多种方法。为了围绕医疗AI中的最佳实践建立共识，CHAI依靠涉及工作组、联盟范围调查、独立审查和公共评论论坛的多层方法。这种高度迭代的过程强调了一个与指南本身一样重要的目标：建立一个多样化的社区，其中开放对话促进共同理解。
虽然一些共识方法旨在达成一致同意，但CHAI遵循类似于国家科学院共识委员会的方法，追求广泛同意，但在无法达成一致时授权主席做出最终建议（参见《了解委员会流程——国家科学院》）。在2024年CHAI利益相关者会议上，一项民意调查显示对该方法的广泛支持。它的优点是实用的，因为它避免了过于僵化的领导以及过度试图适应每个观点。找到正确的平衡至关重要，现有指导的持续迭代是对向任何方向偏离太远的保险。
共识建设的经验教训
CHAI开发负责任AI指南的经验凝结了在这个空间中建立共识的几个关键教训。这些教训强调了公平性、敏捷性和实用性的重要性。
在招募志愿者帮助塑造《负责任AI指南》时，联盟领导人特意努力包括不同的声音，包括接触患者倡导者以及少数族裔服务机构的教师。当时，对所有工作组成员来说，这项工作是自愿的，这提出了关于可持续性和公平性的重要问题。在一个案例中，一位潜在贡献者由于时间限制和无偿劳动的期望而拒绝了。这次交流揭示了一个容易被忽视的动态：对于历史上边缘化社区的个人，特别是那些历史上有无偿或低薪劳动创伤的人，无偿贡献的期望可能带有痛苦的分量。这次交流也强调，虽然包容性代表对公平至关重要，但它必须得到深思熟虑的参与和激励结构的支持。
第二个教训围绕敏捷性。2023年，在开发《负责任AI指南》期间，CHAI的AI生命周期框架根据利益相关者的反馈经历了两次重大修订。首先，数据工程专家呼吁增加一个专门的数据阶段，促使启动一个新的工作组来修订生命周期框架。同年秋季晚些时候，贡献者主张包括一个更早的设计阶段，以在AI工程开始之前明确目标。这些计划外的更改延长了项目时间表并引发了辩论，但它们最终通过表明反馈将被认真对待而加强了利益相关者参与。它们还表明，迭代不是共识的绕道，而是其特征——特别是在技术、用例和专业角色不断变化的快速变化环境中。一个关键的教训出现了：建立共识需要能够吸收变化而非避免变化的持续改进结构。当反馈被认真对待并纳入流程时，共识成为加强产品和周围社区的动态手段。
第三个教训强调实用性。在CHAI的《负责任AI指南》和清单发布后，行业开发者和卫生系统实施者表示担忧，这些工具——虽然全面——对于无缝采用来说过于复杂。这一反馈暴露了共识驱动开发中的内在紧张：包含见解的愿望可能导致产生可能使被要求实施它的组织不堪重负的庞大指南。与之前关于生命周期的辩论不同，后者导致了单独的修订过程，CHAI选择将指南的完整版本作为"立足点"发布——未来迭代的明确起点。在快速发展的领域中，及时发布至关重要，但对话澄清了通过现实世界使用验证和改进这项工作的承诺。未来的迭代将反映实践中学到的教训，并将根据特定利益相关群体的需求进行定制。
最终，这种方法说明了最后一个见解：共识不仅是为了达成协议——它是塑造有效工具的实用策略。当通过不同视角锻造并在真实环境中测试时，指南既获得了合法性又获得了适应性，使它们能够有效应对现实世界的挑战。
【全文结束】
