根据最新研究发现，人工智能正在编造不存在的医学研究参考文献。
《柳叶刀》杂志发表的一篇文章指出，最近的一项审计发现，在数百万篇生物医学论文中，有超过4000篇包含对不存在的研究的引用。哥伦比亚护理学院副教授、该研究的主要作者马克西姆·托帕兹表示，这种伪造的引用可能会破坏医疗专业人员提供护理所依赖的临床指南。
研究人员在《柳叶刀》杂志近期发表的一篇文章中指出，对数百万篇生物医学论文的审计发现了超过4000条对虚假研究的引用。
哥伦比亚护理学院副教授、该研究的主要作者马克西姆·托帕兹告诉CBS新闻，伪造的引用很危险，因为它们会影响临床指南，而临床指南是基于医疗专业人员在提供护理时遵循的公开研究。
"当这些虚假引用进入文献时，它们最终会出现在这些指南中，而医生正是据此决定如何为您提供护理，"他说。"您的医生可能会根据从未存在过的研究来做出治疗决策。"
日益严重的问题
他还表示，令人担忧的是，托帕兹和他的团队发现的这些错误没有一个被更正或撤回，可能仍在影响患者护理。
托帕兹补充说："发表的医学文献中出现虚假引用的比率正在增长。"他指出，过去三年中，此类错误引用的数量增长了12倍。这些伪造的引用涉及近3000篇学术论文。
托帕兹自己的经历促使他调查这个问题。他告诉CBS新闻，他当时正在使用一款AI应用程序来帮助润色自己的科学论文，该程序插入了一个虚假引用。在一位目光敏锐的编辑发现这个虚假引用之前，它已经通过了多层同行评审。
"我感到非常震惊，因为我已经研究AI长达15年，所以如果这种情况可能发生在我身上，它就可能发生在任何人身上，"他说。
托帕兹解释说，当作者提出一个事实陈述并要求AI提供引用时，就会发生此类失误。"在某些情况下，AI会无意中插入这些虚假引用，"他说。"您希望这些事实是准确的，但如果它们由伪造的引用支持，您就无法确定这些'事实'是否准确。"
托帕兹说，在某些情况下，AI工具还会引用真实作者，同时编造研究并将其归因于该人。其他时候，引用完全是编造的。
他说："这只是冰山一角，"并指出其他领域的研究也可能面临同样的问题。
与此同时，托帕兹强调，研究人员严格核实其工作的事实非常重要，他补充说，伪造的AI生成的科学引用可能"看起来非常真实"。
编辑：阿兰·舍特
【全文结束】
