背景:人工智能(AI)正在迅速改变医疗服务的提供方式,但越来越多的证据表明,技术复杂性与人类负责任地部署、解释和管理这些系统的能力之间存在关键差距。当前的AI伦理框架强调公平性、透明度和问责制,但它们忽略了一个基础前提:利益相关者的AI素养。
目标:本文提出了一个概念框架,将数字健康素养,特别是AI增强的健康素养,定位为临床医生、患者和治理专业人员可衡量的素养能力,即使在道德设计的AI系统中,如果没有这些能力,也将无法实现可信赖的部署。
方法:我们整合了三个领域的证据:(1)由于素养差距导致的医疗保健中已记录的AI失败;(2)数字健康素养测量工具的系统性综述,揭示了它们在AI背景下的不足;(3)欧洲数据治理(《通用数据保护条例》[GDPR]、欧洲健康数据空间[EHDS]和AI法案)的见解,表明没有利益相关者理解的法律协调会导致碎片化、无效的治理。
结果:对高调AI实施失败的分析表明,关键决策点的素养缺陷可能是一个促成因素的重复模式。当前的测量工具,包括eHealth素养量表(eHEALS,2006年开发),缺乏AI特定能力,并且测量的是感知而非实际技能。我们确定了现有工具中缺乏的六个AI素养维度,即算法素养、偏见意识、数据治理理解、AI输出的批判性评估、信任校准和可解释性解读。
结论:这些发现表明,医疗保健中的负责任AI可能需要在技术发展和法规制定的同时投资于人类能力建设。本文提出了一个三层素养框架,涵盖临床医生AI素养、患者AI素养和治理AI素养,具有特定于行业的能力和评估策略。这里提出的三层框架作为一个需要实证验证的治理假设,而不是由现有证据已经确立的结论。
【全文结束】

