密歇根大学领导的研究表明，黑人患者在急诊科接受的医疗测试显著少于白人患者，这可能导致基于这些数据的人工智能（AI）程序存在偏差。这项发表在《PLOS全球公共卫生》上的研究表明，对于年龄、性别相同且具有相同医疗投诉和急诊科分诊评分的患者，白人患者的急诊科测试次数比黑人患者高出4.5%。
研究人员表示，如果使用这种数据构建AI工具，这些工具在指导临床决策中越来越常见，可能会加剧现有的检测偏差，导致黑人患者接受次优护理。例如，这些工具可能会假设黑人患者患病的可能性较低，而实际上他们只是较少接受检测和住院治疗，这并非同一回事。
“如果有某些患者群体系统性地被少检测，那么你就会将这种偏差嵌入到模型中，”该研究的主要作者、密歇根大学计算机科学与工程副教授Jenna Wiens在一份新闻声明中说。“调整这些混杂因素是一种标准的统计技术，但在训练AI模型之前通常不会这样做。在训练AI时，承认可用数据中的缺陷并考虑其下游影响非常重要。”
在这项研究中，研究人员分析了两个研究队列的数据，包括2011年至2019年在贝斯以色列女执事医疗中心和2015年至2022年在密歇根医学中心（位于安娜堡）就诊的所有急诊科患者。总体而言，分析中包括了194,750名黑人患者和683,384名白人患者。在匹配年龄、性别和分诊评分后，贝斯以色列女执事医疗中心的每个组有47,160名患者，密歇根医学中心的每个组有70,755名患者。
研究人员发现，白人患者进行全血细胞计数（多1.7%至2.0%）、代谢面板（多1.5%至1.9%）和血液培养（多0.7%至0.9%）测试的可能性更高，尽管黑人患者进行肌钙蛋白测试的频率显著高于白人患者（高2.1%至2.6%）。
同一研究团队还在今年夏天的国际机器学习会议上提出了一种减少此类场景中AI偏差的潜在方法。他们开发了一种算法，根据生命体征（如血压）和种族评估未检测患者是否可能生病。在早期使用该算法的数据测试中，团队能够显著提高标准机器学习模型的准确性。
“考虑数据中系统性偏差的方法是纠正医疗保健交付中一些不平等现象的重要一步，尤其是在越来越多的诊所转向基于AI的解决方案时，”该研究的第一作者、密歇根大学计算机科学与工程博士生Trenton Chang说。
(全文结束)
