医疗AI中的偏见对公平的患者结果构成了严重威胁，最近的研究表明。这些偏见贯穿于AI的开发和部署过程，可能破坏临床决策，加剧医疗不平等，并危及护理质量。
该研究强调，偏见在AI生命周期的每个阶段都会出现，从数据收集和标注到在临床环境中的部署。特定患者群体，尤其是来自服务不足人群的代表性不足，会导致算法缺陷。这些偏见通常会导致不准确的预测和不可靠的临床建议，不成比例地影响弱势群体。
值得注意的是，研究指出了数据缺失或不完整的问题。例如，社会决定因素和非标准化的诊断代码常常缺失，导致模型行为失真。此外，在开发过程中过度依赖性能指标可能会掩盖差异，使有缺陷的系统未经检查就得以推进。
偏见还源自人为因素。专家标注的训练数据往往反映了护理中的系统性偏见，而用户与已部署AI的互动可能会引入进一步的扭曲。此外，某些机构在AI开发中的主导地位会影响优先事项，可能边缘化少数群体的关注。
为了应对这些风险，研究人员强调了大型、多样化的数据集、先进的去偏技术以及通过临床试验进行严格验证的重要性。透明度、可解释性和标准化的偏见报告对于确保AI公平地惠及所有患者至关重要。
随着AI在医疗保健中越来越重要，解决这些偏见是当务之急。未能这样做将有可能延续而不是缓解健康不平等。
参考文献：Cross JL et al. Bias in medical AI: Implications for clinical decision-making. PLOS Digit Health. 2024;3(11):e0000651.
(全文结束)
