AI行业反击：向 Deepfake 宣战！

谈到政治，犹记得，2019年一段美国民主党议员 Nancy Pelosi 的演讲视频遭到恶搞（视频倍速降低至0.75X，Nancy Pelosi 音调也被调高），使其看上去很像是醉酒状态。很快，这段视频就传遍了各大社交网络，对当事人形象造成了极大影响。

对此，Facebook 表示，由于视频属于常规剪辑，并未违反平台的任何规定，因此不会删除；不过鉴于其负面影响，Facebook 减少了该视频在平台的传播。

这一做法招致了广泛批评，而 Facebook 此次推出的“新政”也未针对类似去年 Nancy Pelosi 视频的虚假内容给出令人信服的策略，因此充满争议，争议的主要原因有以下几条：

第一，第1条标准只适用于那些「让观众误以为视频中的人物说了他们实际上没有说过的话」的视频，也就是说不包含那些让观众误以为视频中的人物做了他们实际上没有做过的事情的 Deepfake 视频。

其实这是个很大的漏洞。按照 Facebook 的说法，哪怕一个 Deepfake 视频里面有政客焚烧美国国旗，参加白人民族主义集会，或与恐怖分子握手，Facebook 也不会删除视频。虽然以上都是「极端情况」，但在外交政策、国家安全和选举诚信方面，这些往往是最紧要的。尴尬的是，Facebook 一位发言人的确向美国付费媒体 OneZero 证实，这些情况下平台不会删除视频。

第二，第2条标准对于控制虚假信息的传播效果有限，因为现阶段绝大多数此类视频依然是通过视频剪辑软件来编辑的，通过手动删除背景信息或调整语序，视频剪辑者便到达了“断章取义”的目的。正如纽约大学斯特恩商业和人权中心副主任、政治虚假信息专家 Paul Barrett 所说：

根据 Facebook 的新政策，即便是虚假视频，但因为篡改的手段不先进，所以不会被删除。

第三，Facebook 在博客里提到的「事实核查政策」有严重的局限性。美国《连线》杂志作家 Renée DiResta 认为：

事实核查政策的一个主要问题就是太慢了，在查明事实之前，视频一直在病毒式传播；而且如果涉及到政治，大多数人并不会相信事实核查的结果，这甚至还会升级为党派之争。

一个很好的例证便是——2019年 Facebook 的事实核查机制启动时，Nancy Pelosi 的视频已经广为传播，而且最终也没被删除，负面影响并未降低；面对网络暴力，Nancy Pelosi 还指责 Donald Trump 团队也有不可推卸的责任（雷锋网注：视频中 Nancy Pelosi 在谈论 Donald Trump）。

第四，该政策仅针对视频。近日，美国亚利桑那州共和党众议员 Paul Gosar 在 Twitter 上发了一张前总统 Barack Obama 与伊朗总统握手的伪造照片。Facebook 证实，这确实也不在新政策针对的范围内。

第五，该政策最大的漏洞是不适用于涉及模仿或讽刺的视频。实际上，虚假信息制造者往往是利用“讽刺”的标签做幌子，一次次顺利通过 Facebook 的事实核查，病毒式传播着带有明显误导性的消息。除非 Facebook 明确定义什么才算“讽刺”，否则 Deepfake 视频借着“讽刺”的名号蒙混过关也不是不可能。

第六，该政策可能有向权贵低头之嫌。据《纽约时报》报道，Facebook 的一位发言人发邮件称：

如果政治演讲符合公众利益，Facebook 不会对其进行审查。 如果是政治人物违反了平台规定，我们将通过权衡「公共利益价值和损害风险」来进行评估。

对此，《纽约时报》认为，所谓的「公共利益价值和损害风险」定义模糊，但可以确定的是，政治人物是受到保护的阶级。如此看来，政治人物操纵社交媒体，似乎比普通人更容易。

在批评声不绝于耳之时，也有一些人士表示了对这一政策的肯定。

比如非营利组织 WITNESS 的项目主管 Sam Gregory 表示：

我认为这个政策很好，在 Deepfake 成为一个普遍的问题之前，社交平台首先要清楚地表明立场，宣布他们的具体政策，这是很重要的。

（编辑：52刷机网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!