什么是数字逮捕，网络罪犯使用的最新深度伪造工具?

一名印度纺织大亨透露，他被网上骗子骗走了7000万卢比(合83.3万美元)，这些骗子假扮成联邦调查人员，甚至是最高法院首席大法官。

8月28日，欺诈者伪装成印度中央调查局(CBI)的官员，打电话给纺织制造商瓦尔德曼(Vardhman)的董事长兼董事总经理SP Oswal，指控他洗钱。

在接下来的两天里，奥斯瓦尔一直处于数字监控之下，因为他被命令保持手机上的Skype全天候开放，在此期间他受到审讯和逮捕威胁。诈骗犯还进行了一场虚假的虚拟法庭听证会，以数字模拟的印度首席大法官钱德拉查德(DY Chandrachud)作为法官。

奥斯瓦尔在法院判决后通过Skype支付了这笔钱，他没有意识到自己是一种新型网络骗局的最新受害者，这种骗局采用了一种名为“数字逮捕”的新手法。

那么，什么是数字逮捕，需要采取什么措施来阻止它呢?

数字逮捕到底是什么?

数字逮捕是一种新型的网络诈骗，骗子让受害者相信他们被“数字”或“虚拟”逮捕，受害者被迫通过视频会议软件与骗子保持联系。然后，欺诈者操纵他们的目标保持持续的视频联系，有效地将他们挟持为欺诈性要求的人质。

与网络钓鱼类似，数字逮捕是一种网络攻击，涉及欺骗个人泄露敏感信息，可能涉及身份盗窃，经济损失或出于恶意目的窃取数据。随着人工智能生成的音频和视频的出现，这些技术变得更加复杂。

网络钓鱼是一种网络攻击，攻击者冒充合法组织或个人，欺骗个人或组织泄露敏感信息。

骗子会让受害者蒙受巨大损失，无论是经济损失还是其他法律后果，让受害者相信他们是“来帮忙的”。许多受害者被哄骗或强迫降低警惕，听从骗子的指示。

让这些骗局看起来合法的是视频会议软件的使用。大多数骗局都是匿名的，通过一个简单的电话就可以进行互动。使用视频会议软件，使用复杂的深度伪造视频技术的个人可以以完全不同的人(通常是真人)的身份参与视频通话。

此外，音频人工智能引擎可以复制一段音频，可能是法官或高级警官的声音，然后骗子就可以利用这段音频。

西北大学计算机科学教授VS Subrahmanian在接受半岛电视台采访时表示:“我想说的是，这只是一种新型的鱼叉式网络钓鱼，因为它具有很强的针对性，而且比传统的网络钓鱼更能了解受害者的情况。传统的网络钓鱼是某个地方的王子说他需要把钱寄到美国，而你是他唯一能做到的方式。”

“因此，网络钓鱼骗局变得更加复杂，事实上，有一些词可以形容这些骗局。钓鱼是视频钓鱼，钓鱼是通过短信钓鱼。”

我们对警司奥斯瓦尔的故事了解多少?还有其他数字逮捕事件发生吗?

根据新德里电视台新频道的采访，奥斯瓦尔接到一个匿名人士的电话，声称他的一个银行账户存在财务违规行为，并声称他的账户与针对纳雷什·戈亚尔的案件有关。戈亚尔是印度jetairways前董事长，于2023年9月因洗钱53亿卢比(6400万美元)而被捕。

欺诈者在签发假逮捕令和假最高法院文件，规定了所谓的欠款数额后，说服奥斯瓦尔向一个特定的银行账户支付了83.3万美元。

事件发生后，奥斯瓦尔向当地警方提交了投诉。在网络犯罪官员的帮助下，奥斯瓦尔得以追回83.3万美元中的63万美元。据当地警方称，这是印度这类案件中最大的一次破获。

虽然奥斯瓦尔是最近一个遭遇数字网络钓鱼骗局的受害者，但近年来印度的数字逮捕人数一直在上升。在2020年左右，由于COVID-19大流行期间的封锁，许多服务转移到网上，许多此类数字逮捕的扩散得到了关注。

上个月，一名在原子能部拉贾·拉曼纳先进技术中心(RRCAT)工作的员工在一次数字逮捕后被骗了710万卢比(约合8.6万美元)。

在上个月的另一起事件中，国家建筑公司的一名高级官员被指控贩卖假护照、非法ATM卡和非法毒品，并通过WhatsApp视频通话被骗了550万卢比(约合6.6万美元)。

为什么复杂的深度假人工智能视频骗局越来越多?

尽管深度造假技术早在2015年就出现了，但由于机器学习和各种人工智能工具的加速发展，深度造假在欺诈计划中的使用变得越来越频繁和复杂。

这些新的深度伪造技术允许欺诈者将世界上任何人嵌入到视频或照片中，甚至使用深度伪造人工智能多媒体流添加音频，然后在Zoom、Skype或Teams等视频电话会议中冒充个人。除非电话的主人有反深度伪造软件，否则深度伪造很难被发现。

根据《华尔街日报》2019年3月发表的一篇文章，欺诈者利用深度假语音人工智能诈骗了一家英国能源公司的首席执行官22万欧元(24.3万美元)。

一些深度伪造软件只需要10秒到一分钟的人说话的音频，就能复制出不同的语音模式、情绪和口音。人工智能语音软件甚至会考虑到自然停顿、某些字母的屈折音和音高，使复制品与真人的声音几乎无法区分。

根据《纽约时报》的一篇文章，上个月，一名打电话者冒充乌克兰前外交部长德米特罗·库列巴(Dmytro Kuleba)，与参议院外交关系委员会主席本杰明·L·卡丹(Benjamin L . Cardin)进行了视频电话会议。

虽然没有货币欺诈，但这增加了欺诈行为者操纵关键政治领导人以影响政治选举或高风险外交政策举措的某些结果的危险。

西北大学教授Subrahmanian表示，尽管数字逮捕事件发生在世界各地的不同国家，但由于缺乏对深度伪造的认识，这些骗局在印度往往很普遍。

此外，Subrahmanian说，很大一部分印度人只使用手机。“他们认为手机是他们应该信任的东西，它提供了良好的信息。所以当他们接到这样的电话时，他们不一定马上就不相信。”

他补充说，印度电信部门未能认真对待网络安全问题。

如何才能阻止这种情况?

大多数深度伪造软件都是使用一种称为生成对抗网络(gan)的人工智能(AI)模型创建的。这些gan通常会在深度假体中留下独特的“人工制品”。

deepfake检测系统可以拾取这些伪影，并且可以被检测到。这种嵌入音频中的伪信号可以被深度伪造检测系统识别出来。

随着深度伪造技术变得越来越复杂，检测系统必须跟上这些创新的步伐。

然而，Subrahmanian认为仅仅依靠深度造假检测软件是不够的。人们需要提高对这些深度伪造技术的认识，可能还需要一项全球倡议，类似于欧盟颁布的《通用数据保护条例》(GDPR)隐私法。

“一种是使用已经存在的现有协议。因此，举个例子，国际刑警组织可以对实施跨国诈骗的人发出逮捕令，不管这些诈骗是基于通过生成人工智能进行的金融欺诈还是其他什么。”

他说，负责执行国际法和合作协议的组织需要改进培训和更有效的工具。