在澳大利亚庆祝NAIDOC周50周年之际，这一活动旨在纪念世界上最古老的活态文化，而人类最新的技术却仍未正视一个简单原则："关乎我们，却无我们参与"。令人担忧的是，人工智能（AI）如同之前的许多技术一样，可能成为另一种剥削力量，在未经同意、不给予认可或回报的情况下"获取"土著知识。
这一问题背后的紧张关系已上升至全球层面。在教皇利奥十四世的首篇通谕《人类尊严》中，他将AI视为我们这个时代关键的道德考验之一。
他谈到了AI可能成为压迫工具的危险，强调其可能对少数群体、边缘化人口和土著人民产生歧视。
他最终指出，我们需要直面关于AI所有权、治理、问责以及收益分配的根本问题。
我们的研究发现了一个双重现实：虽然AI具有赋能作用，但也存在固化现有和历史偏见的重大风险。
保护语言与土地
我们的研究基于一个早于该行业当前可见影响力的原住民主导研究合作伙伴关系，旨在探索土著知识体系与人工智能的交叉点。
我们还希望权衡这对全球土著人民的风险与机遇。
我们对2012年至2023年间发表的53项学术研究进行了回顾，确定了AI影响土著知识持有者和社区的四种方式。
我们发现AI可能固化现有偏见，加速伤害而非防止伤害。
因此，保护社区需要一种新的、积极参与且获得同意的大型语言模型（LLMs）训练方法。土著知识必须在这个过程中得到伦理嵌入、适当认可和真正重视。
但也存在积极方面。AI可以成为一种工具，为社区利益保存知识，并设计解决土著人确定挑战的解决方案。
事实上，世界各地的研究人员已经在使用AI来振兴濒危语言、绘制具有文化意义的土地以及记录口头传统。
在西澳大利亚，科廷大学开发了一个原型应用程序，可以识别该地区的野花，然后播放其在诺昂加语中的名称音频，帮助发音。
在加利福尼亚，研究人员正在与Amah Mutsun部落联盟合作，这是一个拥有20多个历史氏族的主权土著国家。他们一起使用机器学习来绘制对部落文化复兴至关重要的植物分布图。
这样的计算工具可以帮助土著知识持有者记录、保存和延续他们的文化遗产。
以土著为主导的AI解决方案
AI也在帮助解决土著社区自身优先考虑的挑战。
在澳大利亚地区和偏远地区，原住民医疗诊所正在试用AI辅助筛查，以对抗糖尿病视网膜病变——这是可预防失明的主要原因。
这是一项直接解决历史上筛查率落后地区关键缺口的举措。
其他澳大利亚医疗服务提供者正在使用AI工具通过检测原住民和托雷斯海峡岛民儿童的中耳疾病来改善耳部健康。
在澳大利亚以外，在台湾，医疗保健计划正在使用预测模型评估土著老年人的跌倒风险——弥合了因距离、技能短缺和高成本造成的重大差距。
但这些例子并非全部。
数据、偏见与损害
支持这些系统的同一技术也可能不尊重并损害土著人民及其知识体系。
在奥特亚罗瓦（新西兰的毛利语名称）使用的一款儿童保护AI系统不成比例地针对土著家庭。研究发现，该算法将毛利儿童转介至保护服务的比例远高于实际案例数所证明的合理性。
在澳大利亚，一款AI眼科筛查工具以高比例的假阳性误诊原住民患者。由于该系统仅在来自中国诊所的数据集上进行训练，算法很可能未能考虑到视网膜色素的自然变化。
这些并非故障。它们是基于未能反映特定人群需求的通用数据构建系统的可预测后果。
但这些例子背后有一个更深层的担忧。开放数据采集是AI开发者构建技术的核心。
对于几个世纪以来一直是剥削性研究对象的土著人民来说，这种方法违反了"自由、事先和知情同意"的原则。
它直接否定了社区管理自身信息的权利。
两个由土著主导的全球框架对此有明确规定。
CARE原则（集体受益、控制权、责任和伦理）和OCAP原则（所有权、控制权、访问权和占有权）确认社区是其自身数据的决策者。
当今使用的大多数AI系统在设计时并未考虑这些原则。
以土著知识为中心解决AI偏见
批评者长期以来一直警告，AI可以强化现有权力结构。欧洲中心主义意识形态塑造了AI，优先考虑个人主义和西方世界观，系统随后在其学习的类别中复制这些假设。
许多研究人员认为，必须通过去殖民化视角审视AI，揭示殖民权力的历史和持续运作。
土著知识体系提供了不同的起点。
在奥特亚罗瓦新西兰，毛利知识体系将人类、非人类和te taiao（自然与所有生物）之间的关系置于中心。在撒哈拉以南非洲，乌班图哲学以集体福祉为中心。
这些不是在AI设计过程结束时添加的调味品。它们是可能设计新AI的替代基础。
从原则到监管
未来的工作在于监管，而非善意。
监管机构必须将CARE和OCAP等原则从愿望转化为法律，使土著数据主权成为每个使用土著数据的AI系统必须满足的具有约束力的标准。
澳大利亚自愿的《AI伦理框架》是这项工作可以开始的一个地方。
技术行业必须接受，与社区的共同设计是部署的先决条件，而非事后想法。为医疗保健、儿童保护和其他高风险环境构建系统的公司，必须仅在土著人民认为有效的数据上训练其模型。
这涉及通过认可、尊重和经济补偿，在数据训练过程中将土著知识置于中心并予以重视。
这引向一组需要澄清的更大问题。
谁拥有我们使用的AI背后的训练数据？当它有效时谁受益？当算法出错时谁承担成本？
随着AI的蓬勃发展，我们发现的模式只会更加尖锐。
我们正在构建AI，同时将其假设和偏见固化下来。唯一的问题是，它反映的是一种世界观，还是多种？
由墨尔本大学提供
【全文结束】