当前位置: 首页 > 科技观察

Reddit最热:给不可描述的照片加水印的应用被AI破解了!

时间:2023-03-17 22:02:21 科技观察

比利时一家电信供应商推出了一款名为“.comdom”的青少年安全应用程序,可以在发送的照片中添加收件人信息作为水印,防止私密照片被二次传播。但没想到,短短几天就被一群研究人员破解,完美还原了原图,引发reddit网友热议。先问个严肃的问题,你有没有收到过睡在你上铺的哥哥发来的不可描述的照片?一项针对10,300名18岁以下青少年的调查显示,发送性短信正变得越来越普遍,15%的青少年表示他们曾经发送过性短信。在一些欧美国家,这个比例会更高。比如在比利时,将近50%的15-21岁的青少年都做过这种事。为了防止这些图片被滥用,比利时电信提供商Telenet想到了一个办法。它与ChildFocus合作推出了一款名为“.comdom”的应用程序。顾名思义,这款应用可以让青少年之间的短信更安全。简单来说就是给照片加水印。与普通水印不同,它的水印包含照片接收者的姓名和电话号码。此外,水印覆盖了整张照片,很难用Photoshop等常用图像编辑工具去除。这样,如果您发送给某人的私人照片被重新分发,每个人都会知道是谁做的。通过这种方式,Telenet希望能够减少私密照片被转发的比例。但是,添加水印真的安全吗?水印被破解了,AI帮了大忙。今天,一篇关于破解该App的帖子登上了reddit的热搜榜:短短几天,比利时根特大学IDLab-MEDIA的几位研究人员开发出了一种可以自动去除水印的方法。去水印工具的画质保持的很高,附上他们的效果图:使用app加水印后的图和用他们的工具去水印后的图是否完美还原?如果后一张图是原图,相信很多人都会相信。他们是如何做到的呢?答案是人工智能。本次去水印研究由根特大学PeterLambert教授IDLab-MEDIA研究组的研究员MartijnCourteaux和HannesMareen进行(上图从左到右三人)。研究人员可以很容易地找出应用程序如何构建水印。然后,他们将水印本身(以多种形式)应用到随机选择的数千张照片中。最后,在此基础上,训练了一个相对简单的人工智能算法(神经网络)来寻找带水印照片与其原始照片之间的关系,之后该算法能够从应用程序拍摄的照片中去除水印。“.comdom的开发者低估了现代人工智能技术的力量。”然而,研究人员表示,他们不会发布他们的去水印软件,以保护那些使用该应用程序的人。去水印是一件小事,社会意义却很大!表面上看,这是又一例“大学生成功破解商业应用”,但其背后的社会意义不容小觑,尤其是在DeepFake技术日趋成熟的今天。因此,该消息一经发布在Reddit上,立即引起了社区用户的关注和热议。我们先来看看大家对于这件事的看法。DeepFake的担忧:不露脸就发布照片并不“那么”安全。从App开发者的角度来看,他们确实找到了一个可行的机制来防止图片被普通用户转发。然而,在AI从业者看来,这种方式显得有些幼稚。Rhakae:我认为这个所谓的“安全发送非描述性照片”功能毫无意义,好吗?最有效的方法是1)坚决不发;2)发帖不要露脸。MuonManLaserJab:除了Rhakae提到的两点之外,我觉得还有一个方法可能更有效。在图像造假软件上努力工作,你甚至可以给你的老板发一段你自己的性爱视频,然后说“看,我做的这个DeepFake多逼真!”。那么以后再出类似的东西,大家就会失去兴趣了。(简直就是以毒攻毒到极致!)Dr_Thrax_Still_Does:毫不夸张地说,2020年肯定会出现一大波可以实现头身互换功能的APP甚至网站,你懂的。如果输入足够多的图片,AI甚至可以制作出极其接近真实细节的图片。Kautiontape:虽然不露脸不代表完全安全,但至少相对安全一些。因为你挡不住所有人,但只要能挡住大部分就好了。本项目的目的是完美去除水印,那么我们是不是可以认为水印是可以重构的呢?MuonManLaserJab:技术总是很难保密的。迟早有一天,算法会被发现,有人可以利用这项技术做坏事。但我相信,当一个安全模型被攻破时,会迫使技术开发出新的升级模型。schludy:下一步,脱掉衣服!AbsolutelyNotTim:一生的追求。聪明的网友在分析LartTheLuser背后的实现原理:需要用一组秘密特制的小波基函数和加密密钥对应的一组小波权值的逆小波变换作为椭圆曲线的一组域参数,这组椭圆曲线的元素只有.comdom知道。他们使用多个椭圆曲线,可能有数百个,以防密钥被泄露,并且由于它们的冗余性,它们可以随时间循环。然后将信号与逆小波变换与一些复杂的函数进行卷积,这些函数是通过对抗生成生成的,具有非常强大的神经网络,可以对这些信号进行反卷积。然后创建它,以便在.comdom应用程序通过运行上述过程的相反过程将图像加载到屏幕上时将水印动态添加到屏幕上。也就是说需要:1)运行一个强大的神经网络对其产生的反卷积信号进行反卷积。2)利用小波基函数的先验知识进行小波变换,得到椭圆曲线权值的某个子集。3)使用专用的专用椭圆曲线将各种椭圆曲线分解成分量,并验证该分量是否为有效密钥,以及与图像水印内容的哈希值对应的代码。最后使用这个散列来检索水印的内容并将其覆盖在图像上。这样,无论何时在应用程序或其他参与的应用程序上显示已知图像,它都将始终带有水印。唯一的解决方案是解决一个非常困难的人工智能问题、一个非常困难的信号问题和一个迄今为止牢不可破的加密机制的复杂序列。我很确定中央情报局和其他高级情报机构使用这种机制。毫秒级图像去噪!Nvidia和MIT的新AI系统完美去除水印事实上,去除图片水印并不是什么新鲜事。在ICML2018上,来自Nvidia、MIT等机构的研究人员展示了Noise2Noise,一种图像去噪技术,可以自动去除图片中的水印、模糊等噪声,并且可以近乎完美地还原,渲染时间以毫秒为单位。通过这种深度学习去噪方法,可以在不使用没有“噪声”的清晰图像的情况下实现完美的水印去除。效果如下:该团队使用ImageNet数据集中的50,000张图像来训练其AI系统,该系统能够从图像中去除噪声,即使它从未见过没有噪声的相应图像。这个名为Noise2Noise(Noise2Noise)的AI系统是使用深度学习创建的,它不是在成对的干净和嘈杂图像上训练网络,而是在成对的噪声图像上训练网络,并且只需要噪声图像。计算机生成的图像和MRI扫描也用于训练Noise2Noise。通过仅使用噪声来训练Noise2Noise,研究人员希望该方法可以用于已知包含大量噪声的图像,例如天文摄影、磁共振成像(MRI)或脑部扫描图像。从左到右:输入噪声图像、去噪图像和原始图像来自IXI数据集的50个人类受试者的近5000张图像被用来训练Noise2Noise的MRI图像去噪能力。在没有人为噪声的情况下,结果可能会比原始图像稍微模糊一些,但仍然很好地还原了清晰度。“这是一个概念证明,我们在公共MRI数据库上进行了训练,但在未来,它可能会在实际应用中显示出前景,”英伟达MRI图像去噪研究员JacobMunkberg说。Noise2Noise系统通过了这是使用有损图像训练的神经网络实现的。它不需要干净的图像,但需要对源图像进行两次观察。实验表明,受不同合成噪声(加性高斯噪声、泊松噪声和二项噪声)影响的目标图像仍然可以具有与使用干净样本恢复的图像“几乎相同”的质量。这个系统最令人兴奋的事情是它可以显着减少图像渲染所需的时间-以毫秒为单位。研究人员在他们的论文中写道:“我们观察到,在正确、常见的情况下,我们可以学习仅从损坏的示例中重建信号,而无需观察干净的信号,这与使用干净的样本一样有效。”如下所示,从统计的角度来看,我们的结论可能微不足道,但在实践中,这种方法通过提高对干净数据可用性的要求,显着简化了学习信号的重建。”对于你如何看待水印和照片去水印?