近年来，人工智能（AI）已成为引起全球多个国家关注的虚假信息和选举过程受损的主要原因之一。然而，由于最近的发展，AI生成的内容现在正引发自疫情以来美国和欧盟最大的健康危机之一。
谷歌最近在其搜索结果中使用AI生成的图片引起了专家们的担忧，尤其是在蘑菇识别方面。潜在的危险在于，这些被呈现为真实的AI生成图片可能会导致依赖视觉线索判断蘑菇是否可食用的采集者出现危及生命的错误。
这一问题是由Reddit社区r/mycology的一位版主发现的，该社区专注于真菌相关的话题，包括狩猎、采集和栽培。这位被称为MycoMutant的版主发现，当搜索真菌Coprinus comatus（通常称为毛头鬼伞）时，Google的特色片段中显示的第一张图片是一张AI生成的图片。
令人震惊的是，这张图片与实际的Coprinus comatus几乎没有相似之处，对任何依赖它进行识别的人来说都构成了严重风险。
这种情况并非孤立存在。谷歌的搜索结果之前也出现了来自各种来源的AI生成图片，并将其呈现为真实图片。在这种情况下，有问题的图片来自一个名为Freepik的库存图片网站，该图片上清楚地标明为AI生成。尽管有这个标签，但该图片被错误地标记为Coprinus comatus，谷歌的算法将其纳入搜索片段中，而未标明其为AI生成的内容。
这种影响非常严重。蘑菇采集是一项需要准确识别的活动，因为许多可食用的蘑菇都有有毒的相似物。错误信息的传播，尤其是在这样一个高度依赖视觉的领域，可能会导致严重的健康后果。
纽约真菌学会等专家表达了对AI生成图片在此背景下带来的危险的担忧。他们指出，许多人依赖视觉参考，当这些参考不准确时，误识别的风险会显著增加。
此外，还存在一个更广泛的问题，即AI生成的内容如何被整合到像谷歌这样的搜索引擎中。挑战在于现在网上可用的AI生成材料的数量巨大，使得搜索算法难以准确区分真实内容和AI生成的内容。这个问题因AI生成的图片往往“足够接近”真实图片而变得更加复杂，这可能会导致混淆，最坏的情况下甚至会导致危险的结果。
谷歌承认了这些担忧，表示其有系统确保高质量的用户体验，并且正在不断努力改进这些保护措施。然而，涉及搜索结果中AI生成图片的事件突显了这些系统的局限性，以及迫切需要更好地识别和标记AI生成的内容。
这些风险并不是新的；去年，一些平台上出现了AI生成的采集指南书籍，其中包含蘑菇识别内容。这些书籍被专家标记为可能致命，因为它们包含的信息不准确。同样，谷歌此前在其搜索片段中展示了著名艺术品和历史事件的AI生成图片，并将其呈现为真实内容。
随着AI能够快速生成大量内容，这一趋势带来了新的信息准确性挑战。对于r/mycology这样的社区来说，它们致力于教育和保护人们，错误信息的传播尤其令人担忧。随着AI生成内容的日益增多，建立强大的系统来过滤和正确标记此类内容的需求比以往任何时候都更加迫切，以防止错误信息和潜在的健康危机。
(全文结束)