'Bixonimania'——AI受骗的虚构疾病
瑞典哥德堡大学研究人员阿尔米拉·奥斯马诺维奇·通斯特罗姆通过虚构一种名为"bixonimania"的眼部疾病,成功测试了当前AI系统的漏洞。她创建了虚假的研究论文、研究人员和机构,结果发现多个主流AI聊天机器人将这种完全虚构的疾病当作真实存在的情况来诊断,甚至引用了充满明显荒谬线索的假论文。这一实验揭示了AI医疗建议系统的严重风险,包括信息过滤机制的缺失和对网络数据的盲目信任,警示人们在依赖AI获取健康信息时需保持警惕,同时也强调了在AI系统中保留人工审核环节的重要性,特别是在医疗等关键领域,防止虚假信息被广泛传播并造成潜在健康危害。

