研究表明，Apple的CSAM扫描算法很容易被“欺骗”。在人眼看来相同的照片在算法看来是不同的。这包括Apple的CSAM扫描算法。什么是CSAM扫描算法？CSAM（ChildSexualAbuseMaterial）是苹果今年早些时候推出的一项提案。具体内容是防止非法图片传播。存储在iCloud中的照片使用哈希值比较算法进行比较。一旦与第三方CSAM数据库中的照片比对成功，苹果将选择屏蔽该照片，甚至报警。由于未经授权获取用户图片信息严重侵犯用户隐私，该提案推出后不久就遭到了用户和媒体的强烈反对，最终该提案于今年9月被撤回。不过苹果并没有放弃CSAM，而是将其推广推迟到2022年，并承诺会对算法做进一步的改进。图像扫描算法能否准确检测出非法图像？苹果提出的CSAM扫描算法能否如其所说准确检测并拦截非法图片，研究人员从一开始就质疑。实际研究结果表明，无论是Apple的CSAM还是其他任何图像扫描算法都无法实现对非法图像的准确检测。研究人员解释说，论文研究针对基于离散余弦变换的算法，提出了两种白盒攻击和一种黑盒攻击，成功改变了图像上的独特特征，帮助其逃脱算法扫描。简单来说，只需要对图像应用一种特殊的哈希过滤器，就可以使两张在人眼看来相同的图像在算法中显得不同。图片来源：如何防止图像扫描算法被伦敦帝国理工学院“骗”？为了保证图像扫描算法做“有效”工作，不被算法欺骗，研究人员提出了两种方法：一是扩大检测阈值；只有在图像ID匹配达到特定阈值后才会标记用户。但是这两种方式都不能从根本上使图像扫描结果更加可靠，反而会带来更多的问题，比如不可避免地侵犯更多的用户隐私。参考来源：https://www.bleepingcomputer.com/news/technology/researchers-show-that-apple-s-csam-scanning-can-be-fooled-easily/
