神经科学作家发现谷歌AI搜索将一个完全虚构的医疗条件呈现为科学事实。这一事件引发了关于AI系统在听起来权威的同时传播错误信息的问题。
用户“Neuroskeptic”发现谷歌AI描述“Kyloren综合征”为一种真实的医疗条件。然而，Neuroskeptic早在七年前就发明了这个假综合征，目的是为了揭露科学出版中的漏洞。AI不仅提到了这种病症，还提供了详细的医学信息，描述了这种不存在的综合征如何通过线粒体DNA突变从母亲传给孩子。所有这些信息都是完全编造的。
“我本以为如果我知道可能会污染AI数据库，就不会去做这个恶作剧了，但这是在2017年。我以为这只是一个有趣的方式来突出一个问题。”Neuroskeptic说。
虽然“Kyloren综合征”是一个不寻常的搜索词，但这一案例揭示了AI搜索工具的一个令人担忧的模式：它们经常自信地呈现错误信息。普通的谷歌搜索立即显示出这篇论文是讽刺性的，而AI却忽略了这一明显的警示信号。这表明上下文往往很重要。
公平地说，并不是所有的AI搜索工具都中了招。Perplexity完全避免引用那篇虚假的论文，尽管它确实偏离主题讨论了《星球大战》角色凯洛·伦的潜在心理问题。ChatGPT的搜索更为敏锐，指出“Kyloren综合征”出现在一篇名为《线粒体：结构、功能和临床相关性》的讽刺文章中。
谷歌的AI模型Gemini创建了这些搜索概览，但它完全错过了这一关键的上下文——尽管引用了那篇会暴露恶作剧的论文。AI引用了来源，却没有真正理解其内容。
谷歌的这一事件增加了人们对AI搜索服务在听起来权威的同时编造事情的担忧。当被问及AI搜索结果的具体错误率时，谷歌、Perplexity、OpenAI和微软都保持沉默。他们甚至没有确认是否系统地跟踪这些错误，尽管这样做有助于用户了解技术的局限性。
这种缺乏透明度造成了一个真正的问题。用户不会花时间去核实每一个AI回应——这违背了使用AI的目的。如果人们不得不反复核实一切，他们还不如使用通常更可靠、更快的普通搜索。但这一现实并不符合一些人声称AI驱动的搜索是网络未来的观点。
这一事件还引发了谁应该对AI系统传播可能伤害人们的错误信息负责的问题，就像最近微软Copilot谈论法庭记者马丁·伯克劳的情况一样。到目前为止，运营这些AI系统的公司尚未解决这些关切。
(全文结束)
