关于AI治理的讨论可能会让许多人感到乏味，但这一学科对于AI在医疗保健领域的崛起至关重要，就像从多样患者群体中提取的大规模训练数据集一样重要。10月28日，杜克大学Margolis健康政策研究所的研究人员发布了一份白皮书，深入探讨了AI治理的“如何”和“为什么”。研究团队收集并整理了来自六家美国医疗系统的专家意见，这些系统都拥有AI治理操作。此外，研究人员还添加了来自其他几家医疗系统的AI专业人士的访谈内容。这份10页的白皮书描述了AI治理的关键组成部分，并建议医疗系统如何从头开始建立治理系统。
为了强化论文的核心主题——如何将创新、问责制和信任结合起来，作者描述了五种在执行良好AI治理时需要考虑的变化，其中三种侧重于人员，两种侧重于流程：
1. 决策权限
一些医院和医疗系统将决策权限交给分配AI工具预算资金的人，作者解释说。其他医疗系统更倾向于集中化的决策过程，由审查团队或更大的治理小组做出最终决定。还有一些医疗系统将部分或全部决策权交给高层领导，他们依赖审查过程的建议。这可以确保AI工具的选择与整体AI标准和战略一致。
2. 治理委员会组成
许多AI治理委员会是跨学科的，成员来自IT、临床护理、信息学、法律、隐私、伦理、合规、人力资源、患者参与、DEI和财务等领域的专家，作者指出。有些成员具有相关的AI背景，但其他人可能需要在其专业领域内接受更多关于AI影响的培训。选择将AI治理整合到传统技术治理中的组织也提供培训，以有效评估AI工具。
3. 患者声音的角色
许多医疗系统希望在可能影响护理的AI工具决策中纳入患者的视角，作者承认。然而，一些系统在允许非医疗系统员工了解整个审查过程时遇到了潜在的法律和后勤挑战。由于患者传统上不参与技术选择和实施，因此在这个领域还需要更多的最佳实践工作。
4. 治理范围
“AI是一个广泛的术语，治理系统需要明确其管辖范围内的工具，”作者表示。一些组织关注各种AI工具，而另一些则仅关注机器学习驱动的工具。还有一些只审查企业级工具。治理范围由多个因素决定，包括可用资源，随着治理系统的成熟，范围可能会发生变化。
5. 工具识别
医疗系统“必须确保在考虑AI工具时将其纳入治理过程，”作者写道。一些组织建立了与IT和采购办公室相关的流程来“捕捉”范围内的工具。作者警告说：“没有完美的流程，有时工具会漏掉。”此外，识别现有工具何时升级为AI支持的软件选项以及已实施的AI工具何时有重大更新，可能需要额外的治理行动。
(全文结束)
