风险管理

深度伪造技术为企业司库带来安全风险

Published: Aug 2022

深度伪造技术(Deepfakes)——利用人工智能模仿真人的合成媒体——正变得越来越先进和普遍。巴拉克·奥巴马(Barack Obama)的深度伪造视频在网上遭到疯传,英国女王在另一个深度伪造视频中大秀舞姿。然而,这项技术如果用来针对企业司库可不只玩笑那么简单了。

想象你被指控做了某件事,但明明不是你做的。真的不是,但不论你如何抗议,却没人相信你。他们可能有你说话的录音,甚至录像。

随着深度伪造技术(deepfake)变得越来越先进、越来越普遍,这种情况可能很快就会在你身边的工作场所出现。人工智能和机器学习可以训练计算机像你一样说话,像你一样行动,没人能区分出真假。

然而,人们对这项技术的潜力仍然认识不足。作家、网络安全专家证人兼顾问约瑟夫•斯坦伯格(Joseph Steinberg)表示:“如果你没有意识到这种情况可能发生,你就很容易受到攻击。”

这对于企业司库而言将产生严重的影响,尤其是如果你会听从领导电话中的指示的话尤为如此。不幸的是,有人已经掉进了这个陷阱,把大量的资金汇到了错误的账户上——这都是因为他们被对方说话的声音给欺骗了。

一个著名的案例是2020年阿联酋的一家公司。据报道,香港一家银行分行的经理接到了该公司董事——至少他是这么认为的——的电话,该董事传达了一个好消息——公司正准备对另一家公司发起收购,需要3500万美元来完成这笔交易。这位分行经理认识这名董事,以前也和他交流过,而且看到这名董事提到的一位名叫‘马丁·泽尔纳’(Martin Zelner)的律师也给他发了好几封关于这笔交易的电子邮件,于是便相信了他的话,并开始转移资金。结果这笔资金很快就通过一个复杂的洗钱网络转移到世界各地的账户。据与此案相关的法庭文件显示,该洗钱网络至少有17人参与。

这种情况已经不是第一次发生了。2019年,一家总部位于英国的能源公司成为了类似骗局的受害者。《华盛顿邮报》报道称,一名董事总经理在他认为是首席执行官的犯罪分子的指示下转移了24.3万美元。深度伪造技术太厉害了——他真的以为那就是公司的首席执行官。据报道,该公司的保险公司表示,“这款软件能够模仿语音,而且不仅仅是语音——语调、标点、甚至德国口音都模仿得惟妙惟肖。”直到行骗者再次来电尝试第二次行骗时,他们才起了疑心,打电话给真正的首席执行官。据报道,受害者董事总经理当时处于一种奇怪的境地,一边正在和真正的“约翰内斯”通话,而另一边的“假约翰内斯”却正在指示他操作另一笔转账。

网络安全公司赛门铁克(Symantec)也注意到了类似的案例。过去,行骗者会将音频编辑在一起,通过发送语音邮件行骗;而如今深度伪造技术能够实时运算,使用公开的音频或视频片段进行训练——例如首席执行官的会议演讲、财报会议或媒体采访等,作为训练人工智能的基础。当受害者接到电话时,犯罪分子可以将想要讲出的文字输入计算机,然后计算机再将文字合成首席执行官的声音来说出内容,从而伪造出实时的语音对话。

然而就目前而言,企业司库或首席财务官不太可能成为视频伪造技术的目标;如果知名度不高,他们甚至不会成为音频伪造技术的目标。美国高级技术专家凯利·塞勒(Kelley Sayler)评论说,“虽然深度伪造技术越来越先进,但它们通常无法一直欺骗未受过训练的普通人。创建一个令人信服的深度伪造视频可能需要海量的图像和声音样本,用于训练深度伪造系统。因此,通常公开出镜了数千次的公众人物更容易被深度伪造。”

塞勒补充说,她不知道目前有什么系统能够生成持续可信的普通人甚至公众人物的深度伪造假象,因为图像和声音样本总是有限。有鉴于此,企业司库,或者不太知名的首席执行官不太可能成为深度伪造视频的目标。然而,音频伪造技术可能更加具有迷惑性,塞勒继续说道,“考虑到当今的科技水平,利用伪造的声音进行模仿的社会工程攻击可能更容易令人上当。”

然而,由于其身份的性质,首席财务官和企业司库总是会成为犯罪分子的目标。以数据为中心的云安全公司Lookout的安全解决方案高级经理汉克·施利斯(Hank Schless)指出,首席财务官和企业司库由于与组织财务的直接联系导致他们成为有吸引力的目标。他表示,“大多数网络攻击都是出于经济动机,攻击者将受害者视为实现最终目标的最直接的途径。”施利斯也指出,伪造语音通话是常见的攻击手段,并且通常会有意制造一种高度的紧迫感。

对于企业司库和首席财务官来说,深度伪造技术所带来的财务风险最为显著。但是,正如作家、网络安全专家证人和顾问约瑟夫·斯坦伯格所评论的那样,“深度伪造技术会造成很多问题,不仅仅是经济问题而已。”

还有更广泛的问题,即深度伪造技术如何作为犯罪的证据——或伪证。可能会出现诸多问题,例如,如果一名下属被(假)上司要求做一些违法的事情,或者如果(假)首席执行官做了一些事情,而唯一的证据是证人指证了他——因为他们与他说过话。斯坦伯格认为,这比金融欺诈更糟糕,因为交易欺诈至少可以被追踪,并且有反转的希望。

但是,如果你被指控做了违法的事情——而事实上这是深度伪造技术合成的你,而你唯一的辩护就是 “我没有打过那通电话”。斯坦伯格提出一个问题:“这时候你打算怎么办?”。这是一个很大的问题,也是法庭不熟悉的问题。目前,法庭上的证词“是的,是他,我跟他说过话”将从字面上被解读。如果辩护说是深度伪造技术捣的鬼,法官可能不会相信,因为法官对此技术并不了解。

这只是深度伪造技术应用的场景之一。网络安全公司熊猫软件(Panda Security)表示,深度伪造技术对企业的威胁主要有三种。第一是欺诈——比如那家阿联酋公司或假约翰内斯的例子。其次是伪造言论——通过伪造音频或视频,模仿高管说或做他们没有说或做的事情,可能会极大地影响公司的声誉。第三是敲诈,例如将高管的形象嫁接到色情材料上,用于敲诈。

技术变得越来越先进,这种威胁也变得越来越普遍。Lookout公司的施利斯表示:“我们都熟悉各种娱乐媒体用来恶搞的深度伪造视频,但这种看似无害的技术实际上可能会被用来做恶。”

斯坦伯格解释说,目前并不是人人都有能力进行深度伪造,但拥有资源或能力的犯罪分子能够发动有针对性的攻击。“目前音频可以深度伪造,伪造视频更难,但早晚将会实现,”斯坦伯格说道。

阿尔蒂·萨马尼(Aarti Samani)是iProov公司产品和营销高级副总裁,该公司开发了实时活性检测技术来对抗深度伪造。谈到深度伪造技术的发展速度,他说,“首先,发布在网上的深度伪造视频同比翻了一番。深度伪造技术的基础是人工智能,数据越多,它就越聪明。这意味着深度伪造技术未来能够更加真实,匹配模仿学习视频中目标的行为举止和表情。随着越来越多的深度伪造作品被创作出来并发布到网上,它们正变得越来越先进。”

萨马尼继续说道:“这也使它们更具可扩展性。犯罪分子如果试图戴上面具来冒充行骗很难成功,但是如果使用深度伪造技术,很容易就会造成大量的经济损失。”

那么,企业司库和首席财务官们该如何自我保护呢?第一步,至少要意识到目前的问题和不足。斯坦伯格评论说,网络安全人员和管理大额交易的高级领导者都意识到了这种技术的潜力,但普通员工却没有。

通过深度伪造技术、网络钓鱼或其他手段尝试进行社会工程攻击时,攻击者往往会有意制造一种高度的紧迫感,令目标不假思索地采取行动。

汉克·施利斯,高级经理,Lookout公司

我们需要开展更多的教育培训来提高人们对这一问题的认识,指导人们如何识别深度伪造。熊猫软件公司指出,80%的组织承认深度伪造技术的威胁,但只有不到30%的组织采取了行动。这家网络安全公司给出了一些识别深度伪造的建议,包括不自然的节奏、机械的语调或糟糕的音频质量等。对于视频,需要注意的细节包括与声音与嘴唇动作不同步、眨眼或动作不自然、光线或肤色意外变化等。然而,考虑到深度伪造技术正变得越来越先进,我们需要在更多层面上保护企业及员工。

“企业可以采取不同的行动,但归根结底就是简单地提高意识,”斯坦伯格说道。可以采用的一个做法就是确保任何偏离常规的交易都必须经过专门的审批。斯坦伯格建议,应该有一种沟通方式,比如在首席执行官和首席财务官之间建立一条专用电话线路用于交易确认,而且这条电话专线只有他们两人和安全团队知道。“如果你在正常渠道收到一条信息(要求完成一项高价值交易),你就知道出了问题,”他解释道。

斯坦伯格指出,你和深度伪造的假象交谈的时间越长,你越有可能意识到它是假的。也许你和此人有一些共同的经历,或者一些只有你们俩才听得懂的笑话,但在交谈中对方的反应却令你感到莫名其妙。

另一个应该引起警惕的信号是紧迫感。施利斯评论道,“通过深度伪造技术、网络钓鱼或其他手段尝试进行社会工程攻击时,攻击者往往会有意制造一种高度的紧迫感,令目标不假思索地采取行动。”他指出,当收到任何要求你进行非正常的转账、分享登录信息或访问某个网站的通话信息时,最好抱有高度怀疑的态度。

“此外,”施利斯说,“组织需要确保他们为任何敏感数据增加一层额外的保护,尤其是财务数据。”他补充道,“通过使用一个能够检测异常登录等风险行为、防止数据泄露、并在复制或移动任何敏感信息时立即加密的安全平台,组织可以保护自己的财务数据不被严重泄露。”

另一项预防措施是制定一套协议来验证可疑的通讯。为防范此类攻击,塞勒评论说,“传统的安全措施应该到位,以防范社会工程和深度伪造攻击。例如,金融机构可以要求,转账请求只能通过预先批准的加密通讯渠道发出,或者任何转账请求都必须通过预先确定的安全线路回拨电话来确认。企业司库和首席财务官应该警惕深度伪造技术,制定相应的方案和程序,确保与内部和外部受众的通讯真实可靠。”

未来在进行大额交易时可能将不再使用音频通讯,而必须使用包括“实时活性证明”等测试的视频通话,以确保通话对象不是一个深度伪造的假象。iProov公司的萨马尼评论道,“使用视频通话,结合实时活性证明或认证肯定会在未来得以推广使用,以打击深度伪造技术,确保资金转移的安全。毕竟,随着人工智能变得越来越聪明,深度伪造技术只会变得越来越先进,越来越难以识别。”

她补充说,“毫无疑问,安全级别将根据交易的风险水平划定。例如,仅涉及内部同事的低风险交互可能只需要用户使用基本凭证验证身份即可。然而,风险较高的交易,如涉及外部机构或交易金额较大时,则可能需要更高级别的身份验证,需要将用户与可信的身份文件(如护照或驾照)进行比照,建立另一安全层级。”

此外,萨马尼继续说道,“无论部署的安全级别如何,实时活性验证解决方案都是非常有价值的,它可以确保任何数字交互都能得到验证,保证交互对象身份的正确、真实和实时,而不是深度伪造的照片、面具、机器人、演员、视频或图像。”

此外,萨马尼还向企业司库和首席财务官提出自我保护的三大建议。首先,保持警惕,对新的交易请求保持适度的怀疑态度。其次,“必须使用多重身份验证。其中,生物鉴定技术作为‘不可分享的证书’提供了极高水平的保障。”最后,萨马尼建议“‘时刻警惕’来监测新的风险,并通过频繁更新金融交易的政策和流程以保障安全。”

斯坦伯格指出,从本质上讲,对抗深度伪造技术关键在于人。毕竟,是人类的本性和愚蠢的行为导致他们被深度伪造技术所欺骗。他认为,公司设置的保护层越多——不论什么保护——犯罪分子就越有可能将注意力转移到其他容易下手的目标上。

All our content is free, just register below

As we move to a new and improved digital platform all users need to create a new account. This is very simple and should only take a moment.

Already have an account? Sign In

Already a member? Sign In

This website uses cookies and asks your personal data to enhance your browsing experience.