Credit: Unsplash/CC0 公共领域
直到几年前，还无人知晓"bixonimania"这种疾病。2024年，一群科学家在线发布研究结果，宣称这是一种电脑使用后影响眼睛的病症。然而这些科学家完全是编造的——不仅研究本身是假的，作者姓名、所属机构、研究地点和资助方（包括"指环盟友大学"和"银河三元联盟"）均系虚构。
大型语言模型如ChatGPT和Gemini仍将其视为真实信息，在此过程中，一个虚构疾病被包装成看似可信的健康问题。
"bixonimania"并非孤例。无论人类还是AI模型，被欺骗的现象在科学领域内外都令人担忧地普遍。无论是AI幻觉、国家支持的虚假信息，还是日常谎言，人类都因自身认知偏差和日益依赖他人获取知识的倾向，展现出惊人的轻信特质。这些是我们个人与集体亟需深入理解并克服的问题。
我们对欺骗的共同迷恋或许能解释电视节目《叛徒》的流行——该节目围绕信任与猜疑的张力构建，参赛者必须判断谁在欺骗群体。该节目捕捉到人性的本质特征：对信任是否有效的持续不确定性威胁。然而在大众数字通信与AI盛行的现代，我们几乎时刻面临类似威胁，却常未察觉。
在近期剑桥节活动中，我们通过《叛徒》主题科学活动凸显这一风险。四位演讲者呈现的研究成果可能全是谎言，观众需投票判断谁在欺骗及原因。我们刻意设计了夸张的演讲者背景：来自不同地域、操不同口音的研究者，分别讲述全球健康、气候、媒体和天体物理学研究。有人着正装，其中一位尼日利亚研究员则身着体现民族身份的服饰，介绍医疗语境下的移民研究。
我们旨在探索口音、性别、民族及着装等信号如何影响观众判断。内容与表达方式均产生作用，但这些信号导致错误结论——观众将"叛徒"评为比诚实研究者更可信。得票最多的是两位"忠实者"（采用《叛徒》术语）：非营利组织"发展媒体倡议"的Ada，以及从事星系考古学的天体物理学家Sarah。
Ada团队通过每日十次广播向全球南方社区传播健康信息挽救生命，但观众认为成果"好得难以置信"。问卷中有人表示："Ada的数据太过完美，不像真的。"且她汇报的是未亲自参与的研究（虽在大型合作中常见），这种距离感被解读为缺乏信心，损害了可信度。
Sarah介绍的"星系考古学"——通过古老恒星化学特征研究银河系形成史——因仅有四分钟陈述时间，无法展现深度，被观众视为理解不足。其领域名称的离奇性也削弱了可信度。"星系考古学这名字太酷，不可能存在"，有观众写道。
相反，两位"叛徒"Jack和Joyce得票最少。Jack是扮演气候研究员（专攻降雨领域）的演员；Joyce则伪造了自身研究结果。有趣的是，Joyce作为尼日利亚女性研究本国社区的个人背景，反而增强了可信度。"Joyce的陈述显得深思熟虑且真诚，研究过程和个人经历描述表明她对该领域充满兴趣"，有人评价。
活动本意是趣味互动，但也旨在揭示科学领域内外的自我误导方式。我们的"叛徒"证明：谎言不仅关乎身份（Jack实为演员），更关乎内容（Joyce作为研究者篡改结果）。虚假信息始终存在，但新在于其传播速度、生成工具及模仿真实的能力。
为何数学不足以解决问题
我们识别虚假信息的集体能力正受威胁。因社会持续强调硬科学学科的重要性，却忽视人文社科培养的批判性思维。例如2023年英国政府推动所有学生数学学习至18岁，却无同等力度培养青年批判性思维。当AI模型鼓吹如"bixonimania"般日益逼真的谎言时，其被接受为真相便不难理解。
工具本身有益：AI是工具，互联网是工具，媒体也是工具。但关键在于我们主动运用工具，而非被其操控。在《叛徒》游戏中，我们缺乏判断真相的依据；但在现实世界，我们有能力核查主张真伪。通过审慎态度与批判性思维，完全可能辨别可信信息，但这要求我们独立思考。信任由我们赋予，必须学会明智给予。
【全文结束】
