研究人员发明了一种假病,而人工智能告诉人们它是真实的。引发警报的实验
罗马尼亚研究人员进行了一项开创性实验,他们故意创造了一种名为"bixonimania"的虚构疾病并在预印本平台发布虚假论文进行测试。结果显示,多款主流AI系统迅速将这种不存在的疾病视为真实病症,不仅提供详细症状解释还给出病因和流行率数据,更令人担忧的是其中一篇虚假论文被引用在正规科学期刊上。这项研究揭示了AI在医学信息处理中的严重漏洞,展示了虚假医学信息如何通过"AI背书"获得可信度,最终可能导致整个学术和医疗信息生态系统的污染,对公众健康构成潜在威胁,尤其是在人们越来越依赖AI获取医疗建议的当下。

