作者|Sze-FungLee 翻译|朱宪忠 编辑|钱山 关于人工智能的讨论，往往伴随着争议。作为人工智能深度学习领域的一个分支，Deepfake（深度伪造）技术近年来迅速崛起。这项技术形象地诠释了“眼见为实”。最初，这项技术更多地用于娱乐、恶作剧朋友或戏弄名人。后来，Deepfake逐渐“走向政治舞台”，为各国之间的政治抹黑、军事欺骗、经济犯罪甚至恐怖活动提供了新的工具。简介 今年3月初，一段乌克兰总统泽连斯基的“视频”广为流传。在视频中，泽伦斯基呼吁乌克兰士兵放下武器，放弃与俄罗斯作战。该视频迅速走红，但很快被揭穿为深度换头“视频”。作为第一个针对处于战争状态的国家元首的Deepfake视频，该视频预示着一种新的舆论战形式。硬币的两面 Deepfake技术有用吗？当然。例如，患有帕金森病的人可以使用语音克隆进行交流。再比如，为了保护患者的隐私，将医疗视频数据中的人脸Deepfake成别人的脸，这样患者就不会被无关人员发现。涉及隐私的医疗数据集也可以公开。人工智能研究人员提供便利。 然而，世界上每一枚硬币都有两个面。Deepfake也有其“恶”的一面。 Deepfake技术的进步使语音网络钓鱼尝试看起来比以往任何时候都更加可信。借助deepfake音频技术，威胁行为者可以冒充他们的目标并绕过语音认证机制等安全措施来授权欺诈交易或欺骗受害者的联系人以收集有价值的情报。 更严重的是，在国家安全层面，如果蓄意利用Deepfake重塑舆论??、煽动社会矛盾、操纵选举，这样的技术可能会破坏整个社会的民主。 上图显示了华盛顿大学研究人员对巴拉克侯赛因奥巴马的深入研究。报告中，研究人员利用人工智能技术，通过第三方模仿美国前总统奥巴马演讲视频中的面部动作，成功伪造了一段假奥巴马演讲视频。制造混乱 Deepfake是基于生成对抗网络的实现。生成对抗网络是一种无监督学习方法，通过让两个神经网络相互博弈来学习。 GAN由生成网络和判别网络组成。生成器网络从潜在空间中随机采样作为输入，其输出需要尽可能模仿训练集中的真实样本。判别网络的输入是真实样本还是生成网络的输出，其目的是尽可能区分生成网络的输出和真实样本。生成网络应该尽可能地欺骗判别网络。两个网络相互对抗，不断调整参数。最终目的是让判别网络无法判断生成网络的输出是否为真。 虽然deepfakes背后的技术听起来很复杂，但使用这种“换头技术”来生成假货很简单。市面上已经有很多这样的在线应用，比如Faceswap、ZAODeepswap，都可以在几分钟内生成deepfake效果。 GoogleColaboratory是一个代码仓库，在线存储多种编程语言的源代码，开放的代码包括可用于生成假图像和假视频的源代码示例（https://colab.research.google.com/github/AliaksandrSiarohin/first-order-model/blob/master/demo.ipynb）。 借助这种全球通行的软件，人们很容易看到大量普通用户使用Deepfake给社会带来不同程度甚至严重的危害，而没有意识到潜在的安全性风险。破坏。来自DeepNostalgia等公司的 换脸应用程序和在线服务的广泛流行表明，深度造假技术被公众广泛接受的速度有多快。仅在2019年，他们就使用Deepfake技术检测到约15,000个虚假视频。显然，这个数字预计会迅速增加。 Deepfakes是虚假信息活动的完美工具，因为它们能够生成可信的假新闻，需要时间来揭穿。与此同时，假货造成的损害——尤其是那些影响人们声誉的损害——往往是持久且不可逆转的。眼见为实？ Deepfakes最危险的后果可能是利用它们在政治运动中提供虚假信息。 一个有力的例子是唐纳德·特朗普曾经称任何不讨人喜欢的媒体报道为“假新闻”。通过指责批评者传播假新闻，特朗普得以利用错误信息为自己的错误行为辩护，并将其用作宣传工具。 特朗普的策略使他能够在不信任和虚假信息的环境中保持支持，声称“真实的事件和故事是假新闻或假消息”。 因此，政府和媒体的公信力正在受损，造成不信任的不良影响。随着假冒产品的增多，政客们很容易否认对任何新出现的丑闻负责。如果一个人在视频中否认自己的身份，如何识别他的身份？ 另一方面，随着民主国家努力保护言论自由，打击虚假信息一直是一项挑战。将人类与机器人相结合等技术可以让人们验证信息，从而帮助应对不断增加的假冒风险。此外，可以考虑引入新的立法或使用现有法律来惩罚伪造信息和冒充他人的造假者。 此外，国际和国家政府、私营公司和其他机构采取的多学科方法对于保护民主国家免受虚假信息的侵害至关重要。人工智能对国家安全的影响已成为世界各国关注的焦点和研究议程。译者介绍 朱显忠，51CTO社区编辑，51CTO专家博主，讲师，潍坊某高校计算机教师，自由编程资深人士。早期专注于各种微软技术（编译成三本与ASP.NETAJX和Cocos2d-X相关的技术书籍）。/ESP32/RaspberryPi等物联网开发技术和Scala+Hadoop+Spark+Flink等大数据开发技术。 原标题：以为deepfakes骗不了你？对不起，你错了 链接：https://thenextweb.com/news/deepfakes-fool-you
