深度伪造
本文约需 2 分钟阅读
深度伪造 (Deepfake) 是指利用深度学习技术制作的虚假音频和视频内容。它能精细地再现真实人物的面孔和声音,有些已难以与真品区分。在冒充诈骗、虚假信息扩散、突破生物识别认证等方面,已成为新的安全威胁。
语音冒充诈骗所揭示的问题
滥用语音深度伪造的诈骗,有的以冒充经营者或上司的通话形式出现,指示进行紧急汇款或办理手续。生成的声音有时难以与本人分辨,仅凭「声音听起来像不像本人」这种听觉判断无法构成防线。这种手法的核心在于制造紧迫感、让人跳过核实步骤,因此防御可以建立在流程上,而不是依赖个人的听辨能力。不仅凭语音通话完成操作,而是通过事先约定的其他途径 (例如内部聊天工具或回拨已登记的号码) 进行本人核实,就是这类流程的一个例子。
历史背景
“深度伪造”一词源于 2017 年一位 Reddit 用户发布的合成视频。最初的主要手法是使用 GAN (生成对抗网络) 进行换脸,但自 2022 年以来,随着扩散模型和大语言模型的发展,已能够从文本生成高质量的图像、视频和音频。
深度伪造的威胁
使用语音深度伪造的 CEO 诈骗,是模仿经营者声音以指示汇款的手法。也有利用深度伪造突破人脸识别系统的尝试。社交媒体上虚假视频造成的名誉损害,以及被滥用于钓鱼诈骗,也是威胁。
对策与防御
可以不只依赖语音或视频进行身份核实,而是将强随机密码与多因素认证相结合。另一种做法是通过多个途径核实重要指示,并制定规则,禁止仅凭语音通话就执行汇款或权限变更。
这篇文章对您有帮助吗?