在刚刚发布的《网络音视频信息服务管理规定》中，直接提到深度学习的四次，基本上可以看成是对AI假视频的针对性控制。自2017年底deepfake换脸技术出现以来，各种利用AI技术的造假视频层出不穷。而且，随着科技的进步，假视频越来越难辨真假，这也引起了全世界的关注。现在，你不能乱用人工智能技术。国内的朋友们，在从事AI换脸视频等操作的时候，请注意这些新规定。对于普通用户：发布非真实AI音视频时，应以醒目方式标明。不要使用人工智能技术制造假新闻。对于服务提供者，除满足上述要求外：在开展人工智能音视频业务时，还应当进行安全评估。部署非正版音视频识别技术。及时停止传播未明确标注的非真实人工智能音视频内容。建立健全辟谣机制。相关规定和条款如下图所示。新规定将于明年1月1日起施行。《网络音视频信息服务管理规定》的详情，可以访问此页面查看：http://www.cac.gov.cn/2019-11/29/c_1576561820967678.htmdeepfake“改变”世界对于deepfake等基于deep的AI技术学习，世界试图应对它。毕竟，这项技术可以用来换脸：它也可以用来伪造身体：本月，Twitter发布了反deepfake策略初稿并征求公众意见。根据草案，如果Deepfake威胁到某人的人身安全或可能造成严重伤害，它将被删除。包括微软和谷歌在内的国外公司也在研究如何自动识别换脸视频。人工智能造假视频也是近几个月来美国国会最具争议的话题之一。此前，美国战略与国际研究中心（CSIS）发布报告称，虚假信息正通过互联网迅速传播，破坏民主进程。人民看点的一篇报道写道：Deepfake被认为是破坏民主的工具。美国情报界发布的2019年全球威胁评估（WorldwideThreatAssessment）警告称，恶意攻击者或战略竞争对手可能会利用deepfake技术或类似的机器学习技术，制作看似真实但虚假的图片、音频和视频文件，以增加竞选活动的影响力反对美国及其盟友。CNBC网站在报道中称，“deepfake”将成为“2020年美国总统大选的一件大事”。就像2016年的“假新闻”一样，“deepfake”视频将在2020年美国大选中掀起更强大的血腥风暴。2019年10月，加州州长加文·纽森签署AB-730法令，明确规定散布虚假信息，让公众对政治人物的言行产生错误或有害印象，将构成犯罪。7月，美国弗吉尼亚州也出台了滥用deepfake的禁令：未经当事人许可，分享他人的裸体视频和照片，无论照片或视频是否真实，均属于违法行为。伪造的。今年6月，斯坦福、普林斯顿等大学发布了一项新研究：给定任何文本，你可以随意改变视频中角色所说的话。而且，更改关键字后，角色的嘴型可以匹配的非常准确，没有任何篡改的痕迹。除了视频造假，AI在音频造假上也不成问题。让我们看一个真实的案例。有人用AI技术伪造了老板的声音，打电话要求调动。结果，一家公司上当受骗，损失173万元。该公司是一家总部位于英国的能源公司。如果不是骗了一次又想马上骗第二次，这个骗局可能不会马上被揭穿。如果你还没有见识过deepfake的威力，以下是部分网友的大作。此前，哔哩哔哩用户“换脸神器”将《射雕英雄传》中朱茵饰演的黄蓉换成了杨幂的脸，并将处理后的视频发布在哔哩哔哩上。同样，徐锦江也让海王变了脸。将《回家的诱惑》男主的脸换成了“穿衣如衣”的女主Ellie的脸：我就不多举例子了。如果想试试AI模仿语音的感觉，可以试试搜狗输入法中的“变声”功能。想要尝试AI换脸的感觉，可以试试之前在国内外掀起旋风，继而引发广泛争议的APP：ZAO。
