伦敦咨询公司德勤今年第二次因外国政府委托报告包含潜在AI生成错误而受到批评。
加拿大政府委托德勤制作的医疗保健报告花费一省近160万美元，其中包含潜在的AI生成错误，这标志着今年第二个国家指责该咨询公司在事实核查方面的不足。
这些错误出现在加拿大进步新闻媒体《Independent》周六发表的一项调查中，该媒体负责报道加拿大最东部省份纽芬兰和拉布拉多省。错误出现在一份526页的报告中，该报告于5月由省政府发布。
该报告就虚拟医疗、留任激励措施以及COVID-19大流行对医疗工作者的影响向当时由自由党领导的卫生与社区服务部提供建议，当时该省医疗部门正面临护士和医生人员短缺问题。
《Independent》发现，德勤报告包含虚假引用，引用了虚构的学术论文来得出成本效益分析的结论，并引用了真实研究人员参与他们并未参与的论文。报告中包括虚构的论文，这些论文的合著者表示他们从未一起工作过。
德勤加拿大发言人向《财富》杂志发表声明称："德勤加拿大坚定支持我们在报告中提出的建议。我们正在修订报告以进行少量引用更正，这些更正不会影响报告的发现。报告撰写没有使用AI；AI仅被选择性地用于支持少量研究引用。"
这份冗长的报告还引用了《加拿大呼吸治疗杂志》的一篇学术论文，但在其数据库中搜索时却找不到该论文。
新斯科舍省达尔豪斯大学护理学院兼职教授Gail Tomblin Murphy告诉《Independent》："听起来如果他们提出这样的内容，可能大量使用AI来生成工作。"Tomblin Murphy在一份"不存在"的学术论文中被德勤引用。她补充说，她只与虚假引用中提到的其他六位作者中的三位合作过。
她表示："我确实认为这有很多挑战。我们必须非常小心，确保报告所依据的证据是最好的证据，是经过验证的证据。归根结底，这些报告——不仅仅是因为它们花费了政府和公众的钱——必须是准确的、有证据支持的，并有助于推动事情向前发展。"
截至周一，该报告仍保留在加拿大政府网站上。
根据上周三发布在博客上的一项信息公开请求，加拿大政府花费了略低于160万美元购买该报告，分八次付款。
该省进步保守党领袖、该省新任省长Tony Wakeham于10月下旬宣誓就职。纽芬兰和拉布拉多省省长办公室和该省卫生与社区服务部未立即回应《财富》杂志对5月报告的置评请求，也未公开解决此问题。
这一披露紧随上个月的新闻，当时德勤在7月发布的一份29万美元报告中利用AI帮助澳大利亚政府打击福利欺诈。但研究人员在237页的研究中发现了"幻觉"，包括引用不存在的学术研究论文和捏造的联邦法院判决引语。
在悄悄上传到澳大利亚政府网站的修订研究中，这家咨询公司承认使用了生成式AI语言系统Azure OpenAI来协助创建报告。
德勤在修订研究报告的部分写道："所做的更新绝不会影响或改变报告中的实质性内容、发现和建议。"
德勤在澳大利亚的成员公司被要求向政府退还部分报告费用。目前尚未公开有关加拿大报告可能退款的信息。
【全文结束】
