今天发表在《Proceedings of the National Academy of Sciences USA》上的一项新研究提供了一种衡量“深度造假”的方法。研究结果表明，真人很容易被机器生成的面孔所迷惑，甚至认为它们比真人更值得信赖。信息图表研究的合著者、加州大学伯克利分校教授哈尼·法里德(HanyFarid)说：“我们发现合成面孔不仅高度逼真，而且被认为比真实面孔更值得信赖。它可以非常有效当用于邪恶目的时。”并未参与该论文的意大利瑞士大学副教授PiotrDidyk表示：“我们确实进入了深度造假的危险世界。”Didyk认为，虽然创建类似的复杂视频更具挑战性，但其工具可能很快就会普遍可用。这项研究的合成面孔是在两个神经网络之间的来回交互中形成的，这是一种称为生成对抗网络的类型的例子。其中一个网络称为生成器，它会生成一系列不断进化的合成面孔；另一个网络称为鉴别器，它在真实图像上进行训练，然后将生成的输出与实际人脸的数据进行比较。用于评分。生成器以随机像素开始练习。随着鉴别器的反馈，它逐渐产生越来越逼真的面孔。最终，鉴别器无法区分真人脸和假人脸。该网络在代表黑人、东亚、南亚和白人男性和女性面孔的真实图像阵列上进行训练，这与早期研究中更常见的白人男性面孔形成鲜明对比。在将400张真实面孔与400张合成面孔进行匹配后，研究人员要求315人从128张图像中识别真假。另一组219名参与者接受了一些培训，并获得了关于如何在尝试区分人脸时识别假货的反馈。最后，第三组223名参与者对128张图像的可信度进行了评分，评分范围为1（非常不可信）到7（非常可信）。第一组在区分真假面孔方面的表现不亚于掷硬币，平均准确率为48.2%。第二组没有表现出显着的改善，只有大约59%，即使有关于这些参与者的选择的反馈。评估可信度的小组给合成面孔的平均分数略高，为4.82，而真人的平均分数为4.48。研究人员没有预料到这些结果。“我们最初认为合成面孔不如真实面孔可信，”该研究的合著者索菲·南丁格尔说。这一发现增加了人们对该技术可及性的担忧，因为几乎任何人都有可能制作具有欺骗性的静止图像。“任何人都可以在没有Photoshop或CGI专业知识的情况下创建合成内容，”Nightingale说。南加州大学视觉智能和多媒体分析实验室的创始主任WaelAbd-Almageed表示，另一个担忧是这样的发现会给人一种印象，即deepfakes将变得完全无法检测。据了解，Almageed没有参与这项研究。他担心科学家们可能会放弃开发针对deepfakes的对策。人权组织WITNESS的项目战略和创新主管萨姆格雷戈里说：“这个研究界没有就如何主动开始改进这些检测工具进行足够的对话，据报道，该组织的部分重点是区分deepfakes的方法。他说，创建检测工具很重要，因为人们往往会高估自己发现假货的能力，而且“公众总是不得不了解它们是如何被恶意使用的。”他们直接解决这些问题。他们强调了三种可能的解决方案，包括为这些生成的图像创建永久性水印，“就像嵌入指纹，这样你就可以看到它来自生成过程”。研究人员在强调deepfakes的欺骗性使用将继续构成威胁后得出了一个明确的结论——“因此，我们鼓励那些开发这些技术的人考虑相关风险是否超过它们的好处。如果是这样，那么我们不鼓励技术的发展仅仅是因为它是可能的。”
