深度伪造

本文约需 2 分钟阅读

深度伪造 (Deepfake) 是指利用深度学习技术制作的虚假音频和视频内容。它能精细地再现真实人物的面孔和声音，已达到难以与真品区分的程度。在冒充诈骗、虚假信息扩散、突破生物识别认证等方面，已成为新的安全威胁。 2025 年语音深度伪造的精度进一步提升，仅凭数秒的语音样本即可生成高质量的合成语音。

现场使用案例

“财务部门接到一通自称是 CEO 的语音电话，指示进行紧急的海外汇款。声音与本人一模一样，但按照公司内部规定通过其他途径向本人核实后，发现是利用深度伪造进行的冒充。”

历史背景

“深度伪造”一词源于 2017 年一位 Reddit 用户发布的合成视频。最初的主要手法是使用 GAN (生成对抗网络) 进行换脸，但自 2022 年以来，随着扩散模型和大语言模型的发展，已能够从文本生成高质量的图像、视频和音频。 2024 年香港某企业报告了一起事件：员工被参加视频会议的 CFO 的深度伪造所欺骗，汇出了约 2,500 万美元。对干预选举和操纵股价等滥用行为的担忧也在加剧，各国正在推进监管讨论。

深度伪造的威胁

在使用语音深度伪造的 CEO 诈骗中，有模仿经营者声音以指示汇款的案例被报告。利用深度伪造突破人脸识别系统的尝试也在增加。社交媒体上虚假视频造成的名誉损害，以及被滥用于钓鱼诈骗，也是严重的问题。深度伪造与安全相关书籍 (Amazon)可帮助你了解最新的威胁。

对策与防御

不要仅依赖语音或视频进行身份核实，将强随机密码与多因素认证相结合非常重要。请通过多个途径核实重要指示，并制定规则，禁止仅凭语音通话就执行汇款或权限变更。社会工程学防范书籍 (Amazon)也很有参考价值。