由辛辛那提儿童医院医疗中心(Cincinnati Children's Hospital Medical Center)领导的一项新的国际研究揭示了人工智能(AI)在儿童心理健康领域应用中一个潜在危险的问题：算法偏见。同时，这项研究提出了一条具体路径，使这些系统更加公平和准确，特别是对于历史上诊断不足的群体。
这项2026年发表在《通讯医学》(Communications Medicine)杂志上的研究分析了来自电子医疗记录的约20例儿童焦虑病例，结果显示AI模型在识别青春期女孩的焦虑方面比男孩更容易失败。
问题：当AI复制人类不平等时
AI在心理健康领域的潜力巨大：早期识别焦虑迹象、支持诊断以及增加获得护理的机会。然而，正如该研究所强调的，这些系统直接从临床数据中学习——而这些数据带有不完美的人类模式。
研究人员发现，AI对青春期女孩的错误率明显更高。与男孩相比，准确率低4%，假阴性率高9%。
实际上，这意味着许多女孩的焦虑病例可能被忽视——恰好是在这个群体中该状况患病率显著增加的人生阶段。
原因不在于生物学差异，而在于数据记录的方式。男性患者的临床记录平均长500字，同时还表现出不同的语言模式。
由于AI模型从这些文本中学习，它们最终更好地解释了更"详细"的病例——从而创建了一个有利于特定群体的偏见。
发现：偏见可以被纠正
尽管诊断令人担忧，但该研究提供了一个乐观的结论：偏见并非不可避免。
研究团队开发了一种专注于训练数据本身的"去偏见"方法。该技术包括：
- 过滤掉有偏见或不相关的术语
- 规范不同组之间的信息密度
- 在不丢失重要临床内容的情况下调整语言差异。
结果非常显著：该方法成功将偏见减少了高达27%，在不损害整体性能的情况下提高了模型的公平性。
作者表示，这表明技术解决方案可以——而且应该——从一开始就纳入医疗AI系统的开发中。
为什么这很重要：AI在心理健康的第一线
这一背景使这一发现更加相关。全球范围内，年轻人的心理健康问题一直在增长，研究表明疫情后焦虑症状显著增加。
与此同时，专业人员短缺强化了AI作为筛查和临床支持工具的潜在作用。
然而，正如最近的研究所示，校准不佳的系统确实存在放大现有不平等的风险——为某些群体提供更准确的诊断，而为其他群体提供较少的诊断。
在这种情况下，确保算法公平性不再是一个技术细节，而成为一个道德要求。
非结构化数据的隐形挑战
该研究最有趣的点之一是强调心理健康领域的偏见问题特别复杂。
与放射学或实验室检测等领域不同，精神病学严重依赖非结构化数据，例如文本中的临床描述。这使得机器学习对语言细微差别更加敏感——因此更容易受到扭曲。
这些差异可能反映社会和文化因素，以及医疗专业人员之间的个人写作风格。换句话说，偏见不仅存在于算法中，还存在于整个数据生产生态系统中。
未来：更负责任和以患者为中心的AI
研究结果指向了医疗保健AI开发的新范式：模型不仅要准确——还必须公平。
该研究强化了"以数据为中心"方法的重要性，这些方法关注数据的质量和代表性，而不仅仅是算法的架构。此外，它建议性能评估应始终考虑不同的人口统计群体。
尽管如此，作者警告说，在大规模临床应用之前需要进一步验证。
结论
AI有潜力改变儿童焦虑的诊断，提供更早、更容易获得的干预措施。但是，如果不加注意，它也可能延续——甚至放大——现有的不平等。
辛辛那提儿童医院领导的这项研究表明，实现更公平AI的路径不仅依赖于更多数据，还依赖于更好、更平衡的数据。
最终，真正的创新不仅在于更准确的预测，还在于确保不让任何人掉队。
【全文结束】
