行业专家迈克埃尔根解释了人工智能在造假中的作用。他举了一个例子，“小时候，我和弟弟用纸盘、锡纸和大理石做了一个不明飞行物（UFO），然后我们把它挂在钓鱼线上，然后爬到顶部“用我们的家用摄像机拍摄不明飞行物。飞进去并获得外星人存在的确凿证据是一种深造。”假冒伪劣的东西一直存在。但是当一切都数字化时，它的创建和分发变得更容易、更快和更广泛地可用。人工智能(AI)将把它提升到一个全新的水平，使任何人都能创建完美的多媒体（像视频和音频）假货。造假者制造假货，然后由检测器检测到，为造假者提供有关检测的信息。然后伪造者调整他们的方法并创造更好的假货。但是在一个充满假货的世界里，如何人们回应？假新闻（或关于假新闻）许多人担心deepfake视频会被用于政治。例如，最近发生的事情，印度人民党主席ManojTiwari用不同的语言向他的支持者讲话。这是一个Deepfake视频。幸运的是，它没有被用来伪造对手的评论。但是，Deepfake现在已经被用于政治领域，这是一个里程碑。另一个使用AI伪造的例子是新的s说唱歌手兼词曲作者特拉维斯·斯科特(TravisScott)的一首名为JackParkCannyDopeMan的歌曲，在一段音乐视频中采用人工智能生成的音乐和斯科特本人的歌词演唱。OpenAIGPT-2是一种创建人工智能技术的语言，几乎可以编写任何风格的文章。可以模仿《纽约客》杂志的文笔，甚至可以写诗。OpenAI是由特斯拉CEO埃隆·马斯克等人创立的非营利性研究机构。许多人担心人工智能制造的假货会被用于犯罪，但这已经在发生。安全公司赛门铁克通过冒充CEO的声音验证了三起针对公司员工的deepfake音频案例。Deepfake技术可以从YouTube演讲和企业财务财报电话会议中提取CEO的声音样本，骗子在这些电话会议中模拟他的声音来诱骗员工向他发送紧急汇款。人工智能将如何制作完美的Deepfake视频目前有两种制作Deepfake视频的通用方法。第一个是人脸交换，它使用编码器和解码器逐帧匹配和替换视频中的人脸。第二种方法称为生成对抗网络或GAN。该方法可用于创建各种令人信服但虚假的数据，它使用两种人工智能算法。一种算法用于创建虚假数据；另一个算法做出判断并为创建者算法提供反馈。并大规模重复这种做法，两种算法都提高了它们的能力。最终，Creator算法变得非常好，可以生成视频、音频、文本、指纹等虚假数据。虚假视频的制作变得越来越复杂。一家名为SenseTime的香港初创公司与南洋理工大学和中国科学院自动化研究所合作开发了一个名为SenseTIme的框架，该框架可以根据语音自动编辑视频。韩国公司Hyperconnect开发了一款名为MarioNETte的工具，可以将某人的面部动作实时映射到其他任何人（例如政客或名人）的面部。与此同时，deepfake技术变得更加强大和大众化，现在正在出现在消费者应用中。任何人都可以创造出令人信服的深度伪造视频和音频，这只是时间问题。这就是为什么必须弄清楚如何检测伪造文件的原因。假冒技术即将推出技术孵化器Jigsaw最初是谷歌的一个部门，然后是Alphabet，现在又回到了谷歌。Jigsaw创建了一个名为Assembler的平台来帮助检查员验证图像。该工具结合了七所美国大学开发的不同技术和算法，加上Jigsaw自己创建的算法，该算法通过查找已知的伪造照片方法生成的证据来处理图像。谷歌还使用人工智能技术结合人类智能来查找和删除谷歌地图上的虚假、不道德或恶意评论。该公司本月声称已删除超过7500万条违反政策的评论和400万份虚假业务资料。人工智能首先审查所有评论和业务概况，并自动删除明显的违规者。然后将困难的问题移交给工作人员。华盛顿大学和艾伦人工智能研究所的研究人员开发了一种名为Grover的算法，可以以92%的准确率识别深度伪造签名。Facebook最近允许独立研究人员通过一个名为SocialScienceOne的程序访问有关用户活动的某些信息。哈佛大学和麻省理工学院IBM沃森人工智能实验室的科学家发布了基于网络空间的“巨型语言模型测试室”软件，以确定给定文本是否由人工智能编写。DarwinAI是一家由滑铁卢大学的研究人员创立的加拿大初创公司，他们开发了一种称为DarwinAI的技术，该技术使用深度学习来检测假新闻。他们的技术将标题与文章内容进行比较。在以后的迭代中，DarwinAI会将文章的文本与其他文章进行比较。使用假新闻推进政治进程的最疯狂的想法之一是“复活”美国的开国元勋亚当斯、汉密尔顿、杰伊、杰斐逊、麦迪逊，方法是在人工智能中模拟他们的思维，使用大量的著作和演讲和华盛顿。一些人提议将区块链作为验证内容的解决方案，但这可能难以接受。正如这些早期产品、技术和实验所表明的，未来检测假冒的技术显然是人工智能。人工智能在造假与反造假竞赛中的应用据估计，四分之一的新社交媒体账户将是虚假或欺诈性的。虚假账户听起来无害，但它们往往与假新闻、垃圾邮件和网络犯罪密切相关。据报道，目前用于检测假账户的系统不是很强大。北约的一项调查发现，他们创建的虚假个人资料中有95%在调查报告发布数周后仍在使用。这是一个令人震惊的事实，因为Twitter、Facebook和其他社交网站已经投资了数十亿美元，并花费数年时间开发系统来检测假账户。每当他们在检测方面取得新进展时，伪造者都会丢弃数百万个假账户，这意味着伪造者将始终领先于检测。在某种程度上，造假者和检测者之间存在猫捉老鼠的游戏。造假者制造假货，检测器检测假货，为造假者提供有关检测的信息。然后造假者调整他们的方法并制造出更好的假货。这种竞争可能会无限期地持续下去。人类的感知将被完全抛在后面，竞争将完全发生在人工智能系统之间。真相就在那里，但现在需要人工智能的帮助才能得到它。
