全国政协委员靳东在3月5日的政协小组讨论上回应了AI换脸导致的诈骗问题。他在采访里面说：“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣。希望能建立更好的规则”，同时，全国人大代表雷军也提交了关于加强“AI换脸拟声”违法侵权重灾区治理的建议。

图片由即梦 AI 生成

当听到身边有人抱怨被“假靳东”骗了钱。人们开始意识到，一项原本用来娱乐的技术-Deepfake换脸技术，竟然能给社会带来如此巨大的冲击。而这一切的背后，正是源于一项名为生成对抗网络（GANs）的技术突破。

从2014年伊恩·古德费洛提出这一概念起，Deepfake换脸技术便迅速发展，并逐渐渗透进我们的日常生活。最初它只是个实验室里的小玩具，谁能想到如今连一张照片加上几秒钟的语音就能生成一个足以乱真的视频呢？

图片来源于：泡咖 AI

随着技术的进步，Deepfake的应用场景，也越来越多。一方面它的确为某些领域带来了便利与创新。比如贝克汉姆通过用多国语言呼吁消灭疟疾的那段视频，便是借助Deepfake技术得以完成的。但另一方面，正如硬币有两面一样，这项技术也有它的阴暗面。就在前不久，据说一位77岁的老人被骗走了1.7万英镑，骗子利用Deepfake技术伪装成她的恋人，并通过伪造的视频骗取了她的信任。更令人震惊的是，某香港公司的员工因为一段伪造的CEO视频通话而误转了2500万美元给诈骗者。这些案例无不显示出Deepfake技术一旦落入不法之徒手中，后果将不堪设想。

那这项技术到底是怎样工作的，而且我们普通民众应该怎样去辨别真假视频，以此来保护自己不受到侵害。

技术原理解析

（一）生成对抗网络（GANs）

要理解Deepfake技术，首先得了解生成对抗网络（GANs）。这是一种，由两个神经网络所构成的系统；其中一个为生成器（Generator），另外一个则是判别器（Discriminator）。生成器的任务，就是去创建内容，就像一张，极为逼真的人脸图片那样；而判别器呢，它的职责，是判定这张图片到底是不是真的，接下来把这个结果，反馈给生成器。两者通过不断的对抗学习，最终生成器能够产出非常逼真的图像或视频。

生成对抗网络的工作原理可以简单地描述为一场博弈。生成器尝试制造出尽可能真实的虚假数据，而判别器则试图区分哪些数据是真实的，哪些是由生成器制造出来的。随着时间的推移，生成器变得越来越擅长欺骗判别器，以至于生成的内容几乎无法与真实的数据区分开来。

（二）自动编码器

除了GANs之外，自动编码器，其实是Deepfake技术中常用的一种方法。自动编码器，它是一种神经网络，其目标而且是对输入数据进行压缩，接着解压，从而重建原始输入。在这个过程当中，自动编码器，稍微学会了提取输入数据的关键特征，并且将其用于生成新的内容。具体到Deepfake的应用当中，自动编码器；它能够用以捕捉一个人脸部的关键特性，比如说眼睛鼻子嘴巴等部位的位置以及形状。接着而且经由对这些特征进行调整，其实我们可以把它们运用到另外一张脸上，如此一来，就可以达成面部交换的效果。

（三）运动估计模块和图像生成模块

这几年研究人员还开发了一种称为First Order Motion Model for Image Animation的方法，这种方法不需要大量的训练数据即可实现高质量的面部替换效果。该模型分为运动估计模块和图像生成模块两大部分。运动估计模块，负责检测源图像之中的关键点位信息；而且根据驱动视频所呈现的动作，进而去预测目标图像的变化情况。图像生成模块，基于这些，变化的信息来合成最终的视频帧。

如何识别与防范

（一）视觉线索和技术手段

尽管高级的Deepfake视频，很难用肉眼去分辨；而且仍然存在一些特征，能够帮助我们对其进行识别。比如人物的面部表情，或者眼神，或许会显得不太自然，眨眼的次数过少，面部边缘呈现出模糊的状态，亦或是与背景的过渡不够自然。另外还可以通过时序的一致性分析，以及依据脉搏信息所产生的色彩变化检测等方式，来识别伪造视频。

（二）实用的防范措施

为避免成为Deepfake诈骗的受害者，我们得采取一些预防办法。首先得提升个人信息保护的意识，千万不要在网络上过多地分享，个人的照片和视频资料；其次要是收到了，可疑的信息，就得通过别的渠道去核实，对方的身份，像打个电话确认一下，或者借助第三方平台来验证；最后一定要及时留意，官方发布的反诈提示，以此来提高自身的防范能力。

Deepfake技术，对社会信任体系，造成了巨大冲击。一旦公众，无法信任他们所见的信息，整个社会的信任基础，就会动摇。面对日益严峻的Deepfake滥用问题，各国政府，而且实际上，也开始采取行动加以应对。我国已经出台了《互联网信息服务深度合成管理规定》等相关法律法规，试图去规范这一领域的活动。不过说真的单靠法律是远远不够的，还需要技术手段以及平台方一同努力，进而构建起一道全方位的安全防线。除了加强法律法规建设，和技术防范外，提升公众的数字素养，也是至关重要的一步。只有当每个人，都具备基本的网络安全知识时，才能真正建立起，一个健康和谐的数字环境。

回到最初的问题，“Deepfake”的换脸技术到底是天使还是恶魔？答案并不简单。它既可以成为传播正能量的有力工具，也可能变成犯罪分子，手中的利刃。因此我们需要更加明智地看待这项技术，既要充分利用其优势，又要警惕潜在的风险。希望今天的分享能让大家对Deepfake有一个全新的认识。

您觉得靳东委员的提案够不够硬？AI换脸的监管是不是早该拿上日程？你身边有没有被AI换脸坑过的倒霉蛋？来评论区留言聊聊吧！咱们把这话题顶上去！