科学家发明虚构疾病测试AI识别能力 聊天机器人竟信以为真
瑞典哥德堡大学研究团队精心设计了一场实验,虚构了一种名为"比克索尼亚症"的眼部疾病来测试人工智能系统对虚假信息的识别能力。尽管研究中包含大量明显破绽——作者名字意为"撒谎的失败者"、致谢《星际迷航》和《老友记》角色、引用"银河三合会"资助等,ChatGPT、微软Bing Copilot和谷歌Gemini等主流AI系统仍将其视为真实疾病进行引用,甚至生成了维基百科条目。这项实验揭示了当前大型语言模型对网络信息的盲从性缺陷,暴露了科学出版体系的漏洞,同时警示研究人员和公众需对AI生成内容保持高度批判性思维,不能盲目信任人工智能提供的健康信息。

