科学家们警告称，随着人工智能技术在社会中的普及，其治理已经远远落后于技术发展。因此，他们推出了一套新的“负责任交接框架”，以帮助用户识别和管理风险。该框架由慈善机构Sense About Science及其在AI和数据科学领域的合作伙伴共同开发，适用于各个行业和社会中的AI工具交接或采用者。
以医疗保健为例，Sense About Society警告称，目前还没有关于软件和应用程序安全开发和推广的规定，尽管这些工具可能带来与药物和医疗器械相当的危害。Sense About Science的主任Tracey Brown表示：“我们已经看到一些用于检测皮肤癌的诊断应用程序主要在白皮肤上进行测试，而在黑皮肤上无法显示相同的结果。这已经导致了实际的身体伤害。”她还指出，缺乏关于适当使用的指导可能会阻止人们采用真正能帮助他们的工具。
该框架借鉴了物理基础设施工程和委托期间已有的交接流程，旨在防止AI工具从代码开发到实际应用过程中，因不同水平和经验的人士之间的信息丢失而产生的问题。例如，一个开发AI工具的统计学家可能在将其移交给研究人员时，未能提供训练数据、模型中的假设或工具的测试方法。研究人员随后对工具进行了测试，但不如原本可以做到的那么严格。然后他们将工具移交给应用程序开发者，但未能分享对原始模型进行任何调整的原因。如此这般，信息在每个阶段都逐渐丢失，直到最终到达使用该工具做出影响人们生活的决策的临床医生手中。
该框架提供了脚本提示，以帮助澄清工具的起源、能力和局限性。它列出了应共享的信息以及组织和用户应提出的问题。国际科学理事会主席Peter Gluckman爵士表示：“AI和数字工具往往匆匆推出，而未评估其意外后果。如果我们不负责地交接这些技术，将对个人、社区、公民生活和环境产生诸多危险。”
Wellcome的数据科学和健康负责人Tariq Khokar表示：“科学研究和研究日益计算化，这意味着数字工具的负责任治理只会变得越来越重要。”
该框架可在以下链接获取。* 本文由Adam Duckett撰写，《化学工程师》杂志编辑*
(全文结束)
