AI生成的引用引发RFK Jr.的“让美国再次健康”报告争议AI Slop Suspected in RFK Jr.’s “Make America Healthy Again” Report

环球医讯 / AI与医疗健康来源:techstory.in美国 - 英语2025-05-31 11:48:00 - 阅读时长3分钟 - 1358字
罗伯特·F·肯尼迪(Robert F. Kennedy Jr.)雄心勃勃的“让美国再次健康”委员会报告因广泛存在的引用问题,包括虚假来源和明显的AI使用迹象而受到严重审查。该报告旨在解决美国预期寿命下降的问题,但似乎大量依赖了像ChatGPT这样的AI工具进行研究,引发了对其可信度的重大质疑。
让美国再次健康报告AI引用争议预期寿命下降慢性疾病公众健康信任政府政策制定AI正确使用事实核查
AI生成的引用引发RFK Jr.的“让美国再次健康”报告争议

罗伯特·F·肯尼迪(Robert F. Kennedy Jr.)雄心勃勃的“让美国再次健康”委员会报告正面临严重的审查,调查揭示了广泛的引用问题,包括虚假来源和明显的人工智能使用迹象。这份白宫文件旨在解决美国预期寿命下降的问题,但似乎大量依赖了像ChatGPT这样的AI工具进行研究,引发了对其可信度的重大质疑。

两项独立的调查显示了MAHA报告基础中的严重缺陷。NOTUS发现了散布在文档中的数十个错误,从断开的网站链接到错误的期刊期号和缺失的作者名。

最令人担忧的是,至少有七个引用来源完全是虚构的,这些研究在科学文献中根本不存在。

AI生成的引用与MAHA报告争议

《华盛顿邮报》的调查发现了另一个危险信号:报告中的522个引用中有至少37个出现了多次,并且几个参考URL中包含了“oaicite”——这是OpenAI自动添加到ChatGPT响应中的独特标记。这种数字指纹强烈表明报告的作者直接从AI聊天机器人复制粘贴信息,而没有进行适当的验证。

这些发现突显了一个众所周知的问题:生成式AI工具经常产生“幻觉”——听起来令人信服但实际上完全虚假的信息。聊天机器人已被发现在法律文件和学术论文中创建虚假引用,常常发明出看似真实的论文标题、作者姓名和出版细节,但实际上并不存在。

观察者们并没有忽略这个讽刺之处:肯尼迪一直将自己定位为“AI革命”的倡导者,却可能成为了这项技术缺点的受害者。在去年五月的一次众议院委员会会议上,肯尼迪热情地宣布:“我们已经在使用这些新技术来更高效、更安全地管理医疗数据。”

当周四的简报会上被问及引用问题时,白宫新闻秘书卡罗琳·莱维特淡化了这些问题,称其为“格式问题”。她为报告的核心发现辩护,声称其“基于联邦政府从未认可的良好科学”。值得注意的是,莱维特在回应中并未提及AI工具。

争议进一步加剧,《华盛顿邮报》注意到一个不寻常的情况:就在新闻机构调查引用问题时,MAHA报告文件于周四悄悄更新。修订版删除了一些“oaicite”标记,并用其他引用来替换一些不存在的来源——实际上掩盖了揭示AI参与的数字痕迹。

MAHA报告与人工监督的重要性

卫生与公共服务部发言人安德鲁·尼克松试图通过一份声明来控制损害,描述这些更改是“对小的引用和格式错误的修正”。他坚称,“MAHA报告的内容是一样的——联邦政府对困扰我国儿童的慢性疾病流行病的历史性和变革性评估。”

这一事件反映了对政府政策制定和研究中越来越多使用AI的普遍担忧。虽然这些机器能够高速处理大量数据,但它们无法查证事实或区分真伪来源。MAHA报告中的问题正是在AI生成内容未经过充分事实核查的情况下可能发生的情况。

由于该报告具有如此雄心勃勃的目标,风险尤其高。肯尼迪的委员会被赋予纠正美国预期寿命下降和慢性疾病发病率上升的任务,这些问题需要基于证据的答案,建立在严格的科学研究基础上。当官方文件包含由人工智能生成的虚假研究和错误时,它会侵蚀人们对旨在保护公众健康的机构的信任。

MAHA报告争议提醒我们在政府工作中正确使用AI的重要性。尽管这些工具提供了非凡的能力,但它们不能替代仔细的事实核查和可靠的研究方法。随着AI在政策制定活动中的作用越来越大,准确性和透明度将是维护公众对政府健康倡议信任的关键。


(全文结束)

大健康

猜你喜欢

  • SoundHound AI为Allina Health部署AI助手以自动化常规任务SoundHound AI为Allina Health部署AI助手以自动化常规任务
  • 美国卫生与公共服务部更新《让美国再次健康》报告,纠正虚构研究引用美国卫生与公共服务部更新《让美国再次健康》报告,纠正虚构研究引用
  • 比蓝莓抗氧化能力更强的11种食物比蓝莓抗氧化能力更强的11种食物
  • 新AI测试识别出能从阿比特龙获益的前列腺癌患者新AI测试识别出能从阿比特龙获益的前列腺癌患者
  • 研究揭示最适合老年人居住的10个最幸福州研究揭示最适合老年人居住的10个最幸福州
  • AI成为生物技术的新实验室伙伴AI成为生物技术的新实验室伙伴
  • IMDA与AI Verify基金会测试生成式人工智能在实际场景中的准确性和可信度IMDA与AI Verify基金会测试生成式人工智能在实际场景中的准确性和可信度
  • 生成式AI驱动的框架助力患者教育和治疗协调生成式AI驱动的框架助力患者教育和治疗协调
  • 美国儿童健康报告引用了“不存在的研究”美国儿童健康报告引用了“不存在的研究”
  • 医学中的AI:研究显示商业图像分析模型的不足医学中的AI:研究显示商业图像分析模型的不足
大健康
大健康

热点资讯

大健康

全站热点

大健康

全站热文

大健康