DeepNude、DeepFake和ForgiveBao的故事告诉我们，科技很容易赋能人。他们可以通过大数据操纵任何一个普通人的生活，让你感到恐惧，让你的隐私成为商品。 DeepNude（深度裸体）App让美国女性胆战心惊。四天来，恐惧蔓延为全球恐慌。 一位名叫阿尔贝托的程序员开发了这个应用程序。只要你给DeepNude一张女人的照片，借助神经网络技术，它就能自动“脱掉”女人的衣服，展现出“全裸”的女人。 有人问，DeepNude会不会对男性造成直接伤害？从目前的情况来看，没有。它只能处理女性图像。即使上传的是男性图片，最终输出的图片中关键私处也会显示为女性。 “低层次需求下产生的应用，都有原罪。” 6月23日，DeepNude首次出现在某网站上，列出了下载和使用该软件的步骤。 DeepNude有免费版和50美元付费版。使用免费版获取的图片会有较大的水印，付费版不会有较大的水印，但会在图片的左上角添加一个小的“FAKE”标识。 用户无需任何专业知识即可轻松使用，技术降低了准入门槛。有人好奇地问：DeepNude是怎么诞生的？ 两年前，开发人员阿尔贝托发现了人工智能的潜力，并开始研究该技术的基础知识。当他了解到人工智能技术可以将白天的照片转换成夜间的照片时，他意识到自己可以将一张穿着衣服的女人的照片转换成另一张照片。 Alberto在接受《Motherboard》采访时表示，DeepNude是基于加州大学伯克利分校的研究人员开发的开源算法pix2pix，使用10000张女性裸照进行训练而创建的。该算法类似于人工智能换脸技术的DeepFake算法，也类似于无人车技术中使用的算法。图片来自GitHub社区，账号“yuanxiaosc” 他把这个发现的结果解读为有趣和热情。通过这两种驱动，他尝试“脱掉”穿着衣服的女性的照片，并取得了“有趣的结果”。 但这不是他创造DeepNude的核心原因，是什么让他创造了一个有争议的应用程序？ 《Motherboard》的报道为我们解答了这个问题。 之前，阿尔贝托创业失败，遇到经济困难。“我问自己，这个算法技术能赚钱吗”？ 答案是肯定的。 在短短五天内，就有50万人在使用DeepNude。巨大的流量一度让服务器不稳定，导致支付出现问题。他一直在社交媒体推特上安抚用户，“我们在支付方面遇到了问题。请稍后再试或使用加密货币。”（我们的支付有问题，请稍后重试或使用加密。）DeepNudeApp推特账号界面截图 6月26日，用户量过大，他被迫关闭服务器。还表示在问题解决之前不接受任何付款。 DeepNude在四天后推出，Alberto并没有意识到有人在用它做一些恶意的事情。6月27日，连续发5条推文称，团队正在努力维护DeepNude的下载通道和支付通道，“耐心等待，我们会在未来发布更多更稳定的版本。” 即便如此，他们仍然离线，人们无法下载DeepNude，原因不是被禁止，而是“因为我们没有预料到这么多访问量，我们的服务器需要加强。” DeepNude太火了。它可以很容易地看到一些星星的隐私，即使它是合成的。快进到6月27日下旬，Alberto被迫妥协并决定关闭DeepNude。 “我们原以为我们每个月都能以可控的方式销售少量DeepNude”，但“我们从未想过它会像病毒一样传播并失控”，“人们滥用它的可能性太高了，我们不不想这样赚钱”，“从现在开始，DeepNude不会发布其他版本，也不会允许任何人使用”。DeepNude网站部分截图 Alberto的口头停止命令无效，直到今天DeepNude还在网上流传。 就在消息发布前几个小时，他还在想“世界还没有为DeepNude的到来做好准备”。 “‘世界还没准备好’？我想你的意思是‘我们写了一个极具攻击性、令人毛骨悚然的应用程序，它基本上是一个滥用和侵犯人们隐私的应用程序，我们很抱歉’。”一位推特用户一脸恼火，不同意Alberto的言论。 “在低层次需求下产生的应用程序是有原罪的。”一位名叫“Mr.PanYi》谴责DeepNude不符合正当合法的需要。与真实图像相比，如果生成的照片像女性，那么就侵犯了女性的隐私权；如果不是，则可能侵犯女性的名誉权。 人间从来不应该为DeepNude这样的app做好准备，也不应该。 但就在DeepNude被抵制之前，DeepFake（深度伪造，多用于换脸）技术也充满了争议。 杨幂、蔡徐坤双双“换脸” 去年12月，一部类似贴吧的美国网络社区Reddit发布了一部盖尔·加朵主演漫威电影《神奇女侠》的“成人短片”。流传开来，被很多网友围观。制作这个视频的人不是专业摄影师，而是网名“deepfakes”的程序员。 他在业余时间学习了DeepFake技术，并使用了一些免费公开的网上“移植”盖尔·加朵的工具??和资料面对一个色情演员。盖尔·加朵(GalGadot)与“成人短片”的联系是不由自主的。 但是程序员显然很着迷。泰勒·斯威夫特、艾玛·沃特森、斯嘉丽·约翰逊和麦茜·威廉姆斯都换了脸。 换了女明星的脸，国内也发生过类似的网络事件。那件事发生在今年早些时候。 把杨幂推入换脸丑闻的人在微博上开了一个账号叫“换脸哥”。2月底，他将一段涉及杨幂的视频上传至网络，引发热议。视频内容的主角原本是在《射雕英雄传》中饰演黄蓉的朱茵，但他利用DeepFakes技术将朱茵的脸换成了杨幂的脸。 一方面，很多人担心自己会卷入同种技术的洪流中，被别人玩弄，开始声讨他；另一方面，有人找到他，请他帮忙做换脸技术，其中很多涉及犯罪。不久后，他与杨幂官方工作室沟通，将相关视频下架。 最广为人知的换脸恶搞风潮，发生在今年年初的“鸡你太美事件”。一段蔡徐坤晒出自己爱好的视频被网友更改。他们还陆续发布了新的恶搞版本。为了避免被恶搞，蔡徐坤还发出律师函警告。蔡徐坤的换脸主角是知名游戏主播 DeepFake开发时间不长。2017年底才出现，当时被主流深入讨论。几个月后，Reddit禁止上传未经同意的色情内容，其他网站也禁止使用深度换脸技术制作未经同意的色情内容。 它的危害之一就是技术力量不受限制，很容易被技术另一端的人所支配。 演员斯嘉丽约翰逊是世界上收入最高的女演员之一。她因参与漫威系列电影而出名。世人称她为“黑寡妇”。她深受DeepFake的伤害。斯嘉丽约翰逊 《华盛顿邮报》声称她的脸已经被匿名在线“创作者”移植到数十个图形性爱场景中，这些创作者正在使用免费的人工智能软件制作令人信服的逼真视频。一段被描述为真正“泄露”镜头的虚假视频已被观看超过150万次。 她比现代成名的大多数黑暗现实都有更多的经验。2011年，她被一名黑客入侵，后来被判处10年徒刑。 在网上制作假色情照片已经存在了几十年。在接受《华盛顿邮报》的采访时，她说DeepFakes的兴起，一直被用来骚扰和羞辱女性，这给寻求在互联网上保护自己的女性带来了新的令人沮丧的挑战。她对这种现象表示担忧，将互联网描述为“一个吞噬自己的巨大黑暗虫洞”。 在英国，DeepFakes的制作人可能会因骚扰而被起诉，但也有人呼吁对特定犯罪行为进行深度打击。据《卫报》，一位学术专家认为，修正案应将根据真人照片制作虚假色情图片定为刑事犯罪，以解决骚扰问题。 在美国，从身份盗用到网络跟踪和报复性色情的各种指控都在追究，并讨论了更全面的法规。目前，美国弗吉尼亚州已率先对这些DeepFakes新应用采取行动，扩大其“报复色情法”的范围。修订后的法律于当地时间7月1日生效。 2014年，弗吉尼亚州将“报复性色情”定义为“恶意传播他人全裸或部分裸体的视频或静态图像，意图胁迫、骚扰或恐吓”。该法令现在涵盖了“deepfakes”，即使用机器学习制作或操纵的视频和图像。 现在的规定是，未经允许就分享某人视频中的裸照是违法的——无论是真实的还是假的。除了DeepFake之外，还包括使用Photoshop或其他工具制作的假照片和视频。 从目前的情况来看，这个法案的保护对象大多是女性。统计数据显示，大约有1000万美国人受到色情报复的威胁或伤害。根据美国研究机构2016年的一项研究，女性受到男性威胁的可能性是男性的两倍。 为什么女人总是受伤？ 利用“深度造假”技术讨好民众 2018年8月13日，一个名为“原谅宝”的项目浮出水面。为了初步筛选，他联合几个朋友在1024、91等网站上对视频和图片进行标记，进行人脸比对。 码农圈一直流传着这样一种说法，很多码农天天分配时间工作，天生情商不够高，心里想找个女朋友。他们不擅长找女朋友。这可能会导致一些码农找到的女朋友可能是“特殊工作者”，或者“福利朋友”，或者被偷拍的女性，或者其他情况。 发起人说，“原谅宝”的功能之一就是识别对方是否出现在1024、PronHub等特殊网站上。 使用起来并不难。你可以上传一张照片到“原谅宝”，系统会自动匹配1024、PronHub等专门网站的数据。如果结果显示“未通过”，则表示此人的外貌出现在专用网站上；如果上面写着“Pass”，那就是“luckypass”。 消息一出，引来无数质疑和谩骂。“宽恕宝”自保，研发宗旨“为保护老实人而生”和“接盘侠的福音”，解决爱情中的信任关系。 5月27日，“深埋记忆”称，“半年时间，100多TB的数据，使用1024、91、sex8、PronHub、xvideos等网站收集的数据，对比Facebook、instagram、TikTok、抖音、微博等社交媒体。我们已经成功识别了全球超过100,000名从事不可描述行业的年轻女士。” “你知道这些资料够判断多少年吗？”有人看到这条消息后问道。 “你知道什么是违法的吗？第一，我现在不传播任何数据，第二，我不公开查询接口泄露任何人的隐私。”“将记忆深深埋葬”在微博上为自己辩护，“我生活在德国，色情行业是合法的”。 “深埋记忆”的霸气丝毫没有减弱。直到舆论收紧，无数人涌入他的个人微博主页声讨他。“深埋记忆”不得不道歉，“我会删除这个项目”，“100多TB的数据在半小时内被彻底抹去”。 事情并没有就此结束，而是以APP的形式传出了“原谅宝”转世的消息。“深埋记忆”与自己脱口而出，“我没有发布过任何手机APP。”但这些设计背后的动机自然是针对女性，甚至是控制和羞辱女性。 我们习惯了太多的事情。习惯了社交媒体的我们，早就接受了一个来自科技世界的观念：科技本身并没有错，即使科技披上狼皮也是人的错，它可以为恶也可以为善。但今年，技术向善的价值取向逐渐成为主流。即便有人批评这个概念非常模糊，也挡不住它现阶段的流行。 但DeepNude、DeepFake和ForgiveBao的故事告诉我们，科技可以前所未有地赋予人们力量，它们可以通过大数据操纵任何一个普通人的生活，让你感到恐惧，让你网络中的一切都变得隐私成为商品宣传。不再是单纯的技术问题，而是社会信任问题，从个人信任到新闻信任。我们可能会陷入一个无法再确定媒体内容是否属实的时代。 “DeepFake”技术越来越流行，无论是抖音、快手上的动画特效，还是美颜相机里的猫耳朵，都在变来变去取悦人心。如果技术本身是中立的，那么道德的存在就是引导技术不要轻易成为“吞噬自己的巨大黑暗虫洞”。 当记者《Motherboard》向加州大学伯克利分校计算机科学教授HanyFarid展示DeepNude时，他震惊地得知它已经发展到这种程度。 学术界和研究人员必须以更批判的眼光看待我们如何推进技术，使其不被武器化或以有害方式使用，他说。 许多AI研究人员也公开反对DeepNude事件，大多是谴责。AndrewNg和他的女儿/图片来自AndrewNg的Twitter账户 三月“我很高兴DeepNude死了。作为一个人和一个父亲，我认为这是人工智能最令人厌恶的应用之一。”前百度首席科学家、斯坦福大学CS兼职教师吴恩达在社交媒体发文表达愤怒。 他还对人工智能界说：“你们确实有超能力，你们建造的东西很重要。请把你们的力量用在有价值的项目上，可以推动世界前进。”
