华盛顿（美联社）——据参议院安全办公室称，本月，参议院外交关系委员会民主党主席本·卡丁参议员成为了一次先进的深度伪造行动的目标，这是邪恶行为者利用人工智能试图欺骗美国顶级政治人物的最新迹象。
专家认为，由于曾经围绕生成式人工智能存在的技术障碍已经减少，此类计划现在将变得更加常见。参议院安全办公室周一发给参议院办公室的通知称，这次尝试“因其技术复杂性和可信度而引人注目”。
该计划围绕着乌克兰前外交部长德米特罗·库列巴展开。通知称，卡丁的办公室收到了一封他们认为来自库列巴的电子邮件，这是卡丁在过去的一次会议上认识的一位官员。
当两人进行视频通话时，“在外观和声音上与过去的相遇一致”。直到冒充库列巴的来电者开始提出诸如“您支持向俄罗斯领土发射远程导弹吗？我需要知道您的答案”之类的问题，卡丁和他的工作人员才怀疑“有些不对劲”，参议院的通知称。
“发言者继续提出与即将到来的选举有关的、让参议员在政治上备受指责的问题”，可能试图引诱他对某位政治候选人发表评论，据参议院安全主任尼科莱特·卢埃林的通知。“参议员及其工作人员结束了通话，并迅速联系了国务院，后者证实这不是库列巴。”
卡丁周三将这次遭遇描述为“一个恶意行为者通过冒充知名人士与我进行欺骗性的对话企图”。
卡丁说：“在我立即清楚与我交流的人并非他们所声称的那个人之后，我结束了通话，我的办公室迅速采取行动，通知了相关当局。”“此事现在已交由执法部门处理，全面调查正在进行中。”
卡丁的办公室未回应提供更多信息的请求。
生成式人工智能可以利用强大的计算能力对视频中的内容进行数字修改，有时可以实时更改视频的背景或主题。同样的技术也可以用于数字修改音频或图像。
这种技术此前已被用于邪恶计划。
香港的一名金融工作者向一个使用人工智能冒充公司首席财务官的骗子支付了 2500 万美元。一名政治顾问使用人工智能模仿乔·拜登总统的声音，敦促选民不要在新罕布什尔州的总统初选中投票，导致该顾问面临二十多项刑事指控和数百万美元的罚款。长期关注照顾美国老年人的专家一直担心，由人工智能驱动的深度伪造将加剧针对老年人的金融诈骗。
参议院的安全官员和人工智能专家都认为，这可能只是个开始，鉴于该技术近期的飞跃，使得针对卡丁这样的计划不仅更可信，而且更容易实施。
网络安全专家、SocialProof Security 的首席执行官瑞秋·托巴克说：“在过去的几个月里，能够将实时视频深度伪造与实时音频深度伪造整合在一起的技术变得越来越容易。”她补充说，这项技术的早期版本有明显的破绽，比如不自然的嘴唇动作或反向眨眼。
纽约州立大学布法罗分校的人工智能专家和教授吕思伟说：“我预计未来会发生更多此类事件。”“任何心怀恶意的人现在都有能力进行这种攻击。这可能来自政治角度，但也可能来自金融角度，如欺诈或身份盗窃。”
给参议院工作人员的备忘录也表达了这种观点，告诉工作人员确保会议请求是真实的，并警告说“未来几周还会有其他尝试”。
曾在白宫领导网络安全政策多年的人工智能和国家安全专家 R·大卫·埃德尔曼将该计划描述为“复杂的情报行动”，在如何将人工智能技术与更传统的情报行动相结合方面“感觉相当前沿”，这种传统的情报行动认识到卡丁和乌克兰官员之间的联系。
他说：“他们认识到这两方之间现有的关系。他们知道他们可能如何互动——时间、模式和他们如何沟通。”“这个情报行动很复杂。”
