据国外媒体报道，互联网上充斥着数十亿张照片，其中许多照片消失在废弃的账户和旧的托管服务中。但由于社交媒体平台的兴起，将它们与照片中的人联系起来比以往任何时候都容易。在公众不知情的情况下，一些公司正在悄悄下载这些内容，并用它来为秘密面部识别模型创建主题……但有一个解决方案，它叫做Fawkes。该信息图清楚地表明，面部识别系统使用面部识别模型来识别特定的人。人工智能输入的图像越多，它就越能准确地识别随机视频和图像中的人——包括现场监控等。很多人没有意识到这些面部识别模型的存在，而且对隐私的影响真的很可怕。企业和政府可以通过简单地收集人们在网上自由发布的自己的照片来训练他们的人工智能模型。大量的信息被输入到人工智能系统中，从而形成一个无法阻止的谜题。芝加哥大学SAND实验室的研究人员通过让普通人对自己的图像进行复杂的控制，朝着解决这个问题迈出了一步。该团队公开发布了Fawkes，这是一种简单、免费的工具，它使用AI微调图像，使其在人类看来保持不变，但在AI系统接受训练时会变得“高度扭曲”。研究人员解释说，通过将这些图像输入系统，一个人实质上是在进行“攻击”，通过破坏系统对那个人长相的理解来毒害系统。每一张输入人工智能的“中毒”图像都会降低其准确识别图像和视频中的人的能力，使其对任何想要利用它的公司或政府几乎毫无用处。Fawkes不是一个简单的图像操纵器，而是一个更复杂的人工智能驱动应用程序，它会产生目标面部识别训练系统无法检测到的变化，这意味着它们将无法识别和删除有害的“有毒”图像。研究人员表示，由于无法分辨哪些图像被隐藏，公司将不得不投入大量精力对所有收集到的内容进行分类，以找出导致失真的内容。根据这项研究，人工智能的测试显示出非常高的准确率。
