《柳叶刀数字健康》和《新英格兰医学杂志AI》发布了一套新的建议，旨在帮助改进用于构建人工智能（AI）医疗技术的数据集的使用方式，并减少潜在的AI偏见风险。一个名为“STANDING Together（数据多样性、包容性和泛化标准）”的国际倡议已经发布了这些建议，该研究涉及超过350名来自58个国家的专家。这些建议旨在确保医疗AI能够对所有人都是安全有效的。它们涵盖了可能导致AI偏见的许多因素，包括：
- 鼓励使用适当且能充分代表社会各群体（包括少数群体和服务不足群体）的医疗数据集来开发医疗AI；
- 帮助发布医疗数据集的人员识别数据中的任何偏见或局限性；
- 使开发医疗AI技术的人能够评估数据集是否适合其目的；
- 定义如何测试AI技术，以识别其是否存在偏见，从而在某些人群中表现不佳。
STANDING Together的建议旨在确保用于训练和测试医疗AI系统的数据集能够代表技术将用于的所有人群的多样性。这是因为，当数据集中没有充分代表某类人群时，AI系统往往在这些人群中的表现较差。少数群体特别容易在数据集中被低估，因此可能受到AI偏见的不成比例影响。还提供了指导，以识别在使用医疗AI系统时可能受到伤害的人群，从而降低这种风险。
参考文献：Tackling algorithmic bias and promoting transparency in health datasets: the STANDING Together consensus recommendations, Alderman, Joseph E et al. The Lancet Digital Health, Volume 0, Issue 0
(全文结束)
