梵蒂冈城——周二发布的一份梵蒂冈文件提出了广泛的人工智能伦理指南，涵盖从战争到医疗等多个领域，并强调这一新兴技术必须作为补充而非替代人类智慧的工具。
教皇方济各已多次警告与人工智能技术相关的风险，这份由梵蒂冈教义和文化办公室发布的新文件进一步扩展了他的观点。该文件的发布正值中国科技初创公司DeepSeek推出新的AI聊天机器人，加剧了人工智能技术的竞争，其成本仅为美国生成式AI领导者的几分之一。
文件指出，随着新技术的发展，人类责任也应相应增加，而人工智能在各个领域的应用“可能并非总能从一开始就预测”。
文件在结论中提到：“人工智能应仅作为补充人类智慧的工具，而不是取代其丰富性。”
人工智能与战争
文件警告称，人工智能有可能将战争工具“远远超出人类监督的范围”，这可能会引发“不稳定的军备竞赛”。文件指出，无需人工干预即可识别和打击目标的武器系统将去除“人类特有的道德判断和伦理决策能力”。
“任何机器都不应选择夺走人的生命。”文件警告道。
人工智能与人际关系
文件警告说，人工智能不能替代“真正的人际关系”，并指出在儿童发展或人际关系等领域中，将人工智能拟人化会因其缺乏同情心而带来风险。
“虽然人类注定要经历真实的关系，但人工智能只能模拟它们。”文件表示。
人工智能与寻找意义
文件指出，“随着社会逐渐远离与超越自我的联系，一些人倾向于转向人工智能以寻求意义和满足——这些渴望只有在与上帝的共融中才能真正得到满足。”
“用人类制造的物品来替代上帝是一种偶像崇拜，这是《圣经》明确警告的做法。”文件说道。
人工智能与隐私/监控
人工智能驱动的数据处理的进步使得数据隐私“更加重要，以保护个人的尊严和关系性质”。
“必须由适当的监管机构监控过度监控的风险，以确保透明度和公共问责制。”文件表示。
人工智能与环境
文件强调，尽管人工智能可以通过模型预测极端事件、帮助管理紧急情况和促进可持续发展来对抗气候变化，但也存在被“云”等词汇模糊化的风险，这些词汇使数据存储“脱离了物理世界”。
“至关重要的是要认识到其运行需要大量的能源和水资源，从而显著增加二氧化碳排放。”文件表示。
人工智能与教育
文件认为，人工智能应促进批判性思维，而不仅仅是训练“年轻人如何积累信息并快速回应”。
“教育不仅是‘填满头脑’，而是‘在心灵、思想和双手之间的紧张关系中冒险’。”文件表示。
“学校、大学和科学学会面临的挑战是帮助学生和专业人士理解技术发展的社会和伦理方面。”文件指出。
人工智能与医疗保健
文件指出，虽然人工智能在诊断疾病等方面具有潜力，但关键在于它应增强而非“替代患者与医疗服务提供者之间的关系”。
“有关患者治疗的决定及其带来的责任必须始终由人类承担，不应委托给人工智能。”文件表示。
人工智能与虚假信息/深度伪造
文件指出，人工智能存在“生成操纵内容和虚假信息”的风险，这些内容由于其真实性相似而容易误导人们。
“应对人工智能驱动的虚假信息不仅是行业专家的工作——它需要所有善良之人的努力。”文件呼吁传播AI生成内容的人们在分享前核实“他们传播内容的真实性”。
(全文结束)
