AI行业反击：向 Deepfake 宣战！

（原标题：向 Deepfake 宣战！）

Deepfake，这一 AI 领域的“大毒瘤”，正在引起越来越多来自行业的反击。

当地时间2020年1月6日，Facebook 全球政策管理副总裁 Monika Bickert 在博客中表示，Facebook 将删除满足其标准的 Deepfake 视频。这是 Facebook 打击平台上「操纵媒体」（Manipulated Media）的最新动作。

Monika Bickert 表示：

虽然 Deepfake 视频当前在互联网上仍然很少见，但其数量的增加将会对行业和社会构成重大挑战。

Deepfake，大家可能或多或少听过名字。

2017年底，美国社交新闻网站 Reddit 的一位用户 Deepfakes 运用人工智能技术，制作了一段“假”色情视频，把《神奇女侠》女主角 Cal Gadot 的脸嫁接到一个成人电影女星身上，一时间引起轰动。

实际上，换脸在计算机视觉领域颇为常见，提到 AI 换脸的方法，一个绕不开的话题便是 Cycle GAN——人脸转换在早期的一个重要尝试。 Cycle GAN 由深度学习模型 GAN（Generative Adversarial Networks，即生成对抗网络）衍生而来，可以便捷地学习两个类别之间的转换关系，因而天然地适用于「图像到图像转换」。

不过，Cycle GAN 保证了语义上的转变，却没法保证一些细节问题，而最主要的两点便是表情无法一一对应、会出现混杂无意义的像素。

不同于 Cycle GAN，Deepfake 是一种深度自动编解码器模型（Autoencoder-Decoder），通过用源人物和目标人物的至少几百张照片，训练模型分别识别、还原两人面部的能力，最后用源人物的照片搭配目标人物的解码器，从而完成转换。

当然，Deepfake 也有局限——无法在小样本上工作，也就是说无法凭一两张照片就替换两张脸，模型的训练过程也需要消耗大量资源。

由于用户 Deepfakes 制作并上传的换脸视频涉及色情内容，且侵犯了他人隐私，Reddit 官方将其封号，而作为报复，Deepfakes 也将换脸视频的 AI 代码免费公开。

潘多拉的魔盒一打开，Deepfake 开始凭借着惊人的发展速度、逼真的换脸效果，并最终造成了恶劣的社会的消极影响。荷兰网络安全初创公司 Deeptrace 曾于2019年10月发布了一份关于 Deepfake 现状的报告，并指出网络上现有的 Deepfake 视频中有96% 涉及色情，各大色情网站上流传的 Deepfake 视频中，所有受害者均为女性；同时，娱乐圈名人成为 Deepfake 视频的主要恶搞对象。

另外，Deepfake 对政局的影响也不容小觑，其中最为典型的两个例子是：

2018年，由 Deepfake 合成的加蓬总统 Ali Bongo 新年致辞视频曾引起了兵变；

2019年，马来西亚经济部长 Azmin Ali 与男性发生性关系的视频搅动了马来西亚政局（雷锋网(公众号：雷锋网)注：同性性关系在马来西亚属违法行为，Azmin Ali 声称视频是由 Deepfake 技术伪造，属政治阴谋）；

正如荷兰网络安全初创公司 Deeptrace 创始人兼首席科学官 Giorgio Patrini 所说：

无论是视频、音频还是文本，我们一直以来依赖和信任的多个数字通信渠道都已遭到了颠覆。

Deepfake 视频的发展自然而然引发了人们的恐慌与深思。因此，各大科技企业也开始联合学术界做出行动，避免造成更深的负面影响。

正如纽约州立大学工程与应用科学学院吕思伟教授所说：

解决这一问题需要技术人员、政府机构、媒体、公司以及每一个在线用户的共同努力。

2019年9月5日，Facebook CTO Mike Schroepfer 宣布，Facebook 正与微软公司联合包括麻省理工学院、牛津大学、康奈尔科技校区和伯克利大学在内的多所大学研究检测 Deepfake 的方法，同时非营利性研究组织 Partnership on AI 也参与其中，该组织的成员包括 Google、苹果、亚马逊、IBM 等大型科技公司。

另外，Facebook 投入了1000万美元发起“Deepfake 检测挑战赛”（Deepfake Detection Challenge，DFDC），竞赛于2019年末在温哥华举行的 NeurIPS 2019上正式启动，并于2020年春季结束，进而激励研究人员以及业余爱好者寻找解决方案。

当月，Google AI 开源 Deepfake 视频检测数据集，该数据集共包含来自28个不同场景的由真人演员历时1年现场拍摄的3000多段视频。

2019年10月初，美国参议院情报委员会的 Mark Warner 和 Marco Rubio 召集了包括 Facebook、Twitter、YouTube、Reddit 和领英在内的11家科技公司负责人，旨在加快制定行业标准，规范 AI 合成内容的分享、移除及存档。月末，Twitter 发布了平台拟将执行的草案，并公开征集用户意见。

正如本文开头提到的，Facebook 近日发布博客，公开了针对 Deepfake 视频的新政策。

博客提到，Facebook 将删除符合以下标准的操纵媒体：

过度编辑或合成的视频，误导观众以为视频中的人物说了他们实际并没有说过的话；

通过 AI 或机器学习技术对原有视频素材进行整合、替换或叠加生成的视频。

值得一提的是，对于不符合上述标准的视频，第三方事实核查员也会审查（包括 Facebook 的全球50多个合作伙伴，将使用40多种语言进行核查）。如果视频被评定为虚假或部分虚假，Facebook 将明显减少其在 News Feed 信息流中的传播，用户在分享该视频时也会收到提醒。

同时，Facebook 指出，新政策不适用于涉及模仿或讽刺内容的视频，以及仅作了删减或改变了说话顺序的视频。

Facebook 新政策充满争议

美智库新美国安全中心 CNAS 技术与国家安全项目主任 Paul Scharre 曾警告说：

Deepfake 具有极大的破坏性，利用它来操控选举只是时间问题。

因此，进入2020年，随着本届美国总统大选临近，作为全球最大的社交媒体平台，Facebook 此举自然也考虑了政治方面的因素。

雷锋网了解到，Monika Bickert 的博客于她即将出席国会关于网络操纵和欺骗的听证会之前发出，这可能并非巧合——距离2020年大选只剩10个月时间，很少有哪个政治阶层的人对 Facebook 在民主进程中发挥的作用感到满意，此次政策的宣布似乎是 Facebook 在向当局证明自己的能力。

（编辑：52刷机网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!