制作逼真的深度造假(deep fake)视频可能需要做大量的工作,但使用AI,用虚假语音实施欺诈来得更容易更快捷,在这起显然成功的CEO欺诈案之后可能数量会增加。
据《华尔街日报》报道,犯罪分子使用基于AI的软件,冒充了德国老板的声音,欺诈下属英国子公司负责人转账了 24.3 万美元。
《华尔街日报》的Catherine Stupp报道:“一家总部位于英国的能源公司的负责人以为,另一头与他通电话的是他的老板,即这家公司的德国母公司的首席执行官,对方让他将资金转给一家匈牙利供应商。据该公司的保险公司Euler Hermes
Group SA声称,来电者称这个要求很紧急,指令该首席执行官在一小时内付款。Euler Hermes拒绝透露受害公司的名字。”
该报援引总部位于慕尼黑的金融服务公司安联的子公司Euler Hermes的欺诈专家Rüdiger Kirsch的话表示,英国负责人在电话中认出了他老板略微带德国的口音和腔调。该负责人按要求将款项打给了匈牙利供应商,事后对方再次联系他,保证转账立即给予报销。
ESET的网络安全专家Jake Moore在发给SC Media UK的电子邮件中说:“我预测在不久的将来,我们会看到利用机器学习的网络犯罪大幅增加。我们已经看到深度造假技术使用视频格式模仿名人和公众人物,但制作这些逼真的镜头要花17个小时左右。能够伪造声音需要较少的录音即可制作而成。随着计算能力不断提高,我们开始看到这些变得更容易制作,未来形势令人不安。”
“为了降低风险,不仅有必要让人们意识到这种模仿现在可以实现,还有必要在转账之前加入验证技术。双因子验证是另一种有效、廉价、简单的技术,它增添了另一层安全,可以保护打给流氓账户的资金。被要求转账时,特别是大笔金额,请核查电话号码并要求回电。使用你地址簿中的号码,而不是点击通话记录中的‘回电’选项。”
KnowBE4的首席执行官Stu Sjouwerman在其博客中评论:“这实际上是CEO欺诈案中使用社交工程伎俩的升级版。你需要让员工接受全新的安全意识培训以防止诸如此类的人为错误。”