新华社上海5月13日电随着AI技术的发展，视频换脸技术门槛降低，普通人们还可以制作换脸视频。记者调查发现，该技术被用于恶搞视频的合成，其不良影响也引起了社会关注和担忧：如果任其自生自灭，任其“异化”，可能成为侵权的工具。侵犯他人合法权益，危害公共安全的。《你要的我有》AI《画皮》只要2.5元《你要的我有》《男人瞬间变女人，毫无违和感》《视频就能变脸》来自“朋友圈”…………近期，AI换脸视频火遍各大平台。记者在哔哩哔哩网站上搜索“换脸”，有上千条视频。其中，有网友互换了影视剧中不同演员的脸；如果换成国内的公众人物，标题是“中国人在国外接受采访……视频里的人换脸后，几乎可以‘伪装’了。”仔细想想，恐惧。”在“deepfake”的贴吧里，有9000多个跟AI换脸相关的帖子。里面有很多明星换脸视频的销售信息。一个叫“合成联盟”的用户公开售卖换脸群里的视频，上榜人数达到150多个，并称“所有白菜只要58元。”在一个名为“明星论坛”的论坛上，有人贴出了多个换脸视频网站的网址记者在淘宝上搜索“AI换脸”“deepfake”，出现大量换脸软件销售信息，包括“商业代言视频”、“明星偶像互动视频”、“恶搞视频”等，据称是“现实而清晰的”。有些还提供换脸视频制作服务。一位ID为“专业定制换脸视频”的淘宝卖家称，可以代为制作换脸视频，三分钟300元。记者在二手交易平台上以2.5元的价格购买了一款名为“fakeapp”的换脸软件。按照教程，导??入提供的视频素材，只需按下“提取”和“合成”按钮等，就可以在视频素材中换脸，而且几乎没有痕迹。未经授权的换脸是“一时的快感”，否则可能造成违法侵权。重构和综合就足够了。”长期从事影视换脸业务的北京巨力维度科技有限公司技术官赵天琪介绍。“以往，相关制作成本每分钟可达数百万元。随着部分AI技术的开源，不仅换脸制作的价格大幅下降，门槛也在不断降低。”他说。中国传媒大学政法学院副院长王思新表示：“目前，通过AI技术深度伪造他人肖像和声音主要用于网络‘恶搞’，但模拟效果已经接近真假难辨的边界。随着科技的发展，加上短视频的形式迅速传播，如果使用不当，会产生强烈的负面影响。”近日，民法典人格权草案二审稿规定，任何组织和个人不得丑化、污损、或者利用信息技术伪造等方式侵犯他人肖像权。对于许可使用其他人格权的行为以及自然人的声音保护，参考相关规定。”如果正式通过，意味着除法律另有规定外，如果使用他人肖像进行AI换脸，只要有未经本人同意，即使没有营利目的和主观恶意，也可能构成侵权。”北京大学法学院副院长薛军说。他同时提醒，侵权者不要心存侥幸。即使换脸不是100%相似，只要换脸视频和原视频能达到一定的相似度，并且能被第三方识别出来，就可以认为是一个n侵权。将视频中人脸换成他人脸后传播，涉嫌构成传播淫秽物品罪，应承担相应的刑事责任。”AI换脸“双刃剑”不可独善其身“AI换脸技术在影视制作行业有一定的需求。有些演员还没拍完就死了，靠着换脸技术就可以“复活”在银幕上。”赵天琪表示，AI换脸可以实现演员不在场的情况下拍摄，提高了拍摄效率，节省了大量资金。不过，相关专家表示，要确保新技术的使用得当，并且不能任其自生自灭，任其“异化”。成为侵犯他人合法权益，危害社会公共安全的工具。——用户需秉持诚信使用原则。技术是中立的，但使用既有正面影响也有负面影响，需要避免滥用新技术。“用户需要自律，要使工具能够用于合理合法的目的和目的，需要常识的底线意识法律和公共秩序以及良好风俗。”薛军表示。——平台不能只躲在“避风港”。国内某大型短视频应用负责人告诉记者，换脸视频在审核中往往隐蔽性高，除了那些明显与恐怖主义和色情有关的。除了非法视频，例如一般的恶搞视频，由于平台不是侵权的主体，因此缺乏主动的动机。只能在用户之后处理事后通报，王思新认为，平台应完善事前处置机制，强化违规人脸视频的自动研判和剪辑，严格控制问题视频的分发，“如果平台知道视频违法违规不采取措施，继续对他人和社会造成损害的，平台也需承担连带责任。”——监管要严打王S爱信建议监管部门对违法侵权视频进行重点监控，严格监控可能造成不良社会影响、危害国家安全和社会公共利益的换脸视频，严厉打击违法侵权行为。
