在人人都可以被骗的今天，我们换个游戏对象，看看机器能不能被骗？在人工智能5十年的研发过程中，我们一直在不断尝试让机器理解人感知世界的方式。无论是尚未取得重大突破的类脑计算，还是模仿人类感知外界机制的人工神经网络，本质上都是对人类行为的多种模仿。当然，我们也知道，这些仿制品虽然在应用上取得了突破，但在本质上与人类的认知还是有很大区别的。以视觉为例。人对万物的认知都来自于综合感知。前阵子在社交媒体上火的大电影《神奇宝贝》，看到3D版的皮卡丘，大家很是吃惊——皮卡丘竟然长毛了？其实这反映了人类非常有趣的一点，基于综合的知识库其实人类的五种感官是相通的，所以可以从有限的信息中进行联想挖掘，建立对陌生事物的认知。当我们单纯的认为皮卡丘是毛茸茸的时候，马上就想到了那种毛茸茸的感觉，觉得它不像一只大老鼠那么可爱。与被随意愚弄的机器思维相比，机器视觉的认知是相对孤立的。建立分类器后，组织层层神经网络，对图像进行逐层处理，以识别图像是否为桥梁。不是猴子，也不是大树。最后的结论是，这张图片有97%的几率是一座桥，2%的几率是一只猴子，1%的几率是一棵大树。对于人类来说，我们可能会把猴子当成猩猩，因为我们自己头脑中的底层知识不足，在认知上无法区分猩猩和猴子的概念。但切勿将桥梁、猴子和大树与无关紧要的事物混淆。但是对于机器视觉来说就不一样了。在机器的“眼睛”里，所有的图像都是像素的排列组合。对我们来说，猴子和大树的区别就是哺乳动物和区别。但对于机器来说，猴子和大树之间只有一条数字分界线。这就导致了机器视觉可以“有针对性”地被愚弄，让图像识别输出完全错误的结果。这就是我们常说的对抗生成样本。比如一张图片的像素稍微移动一下，两张图片在人眼中是没有区别的，但是在机器识别逻辑下，可能会让机器把猴子识别成一棵大树。再比如我们介绍过的“迷幻贴纸”——将某个物体的分类特征高度浓缩成一个小图案，“贴”在其他图片上。图像识别结果的输出是基于几个结果的比值。在贴贴纸之前，图像识别可以明确分析出该图片有98%的可能性是猴子。但是贴上特征高度集中的贴纸，可以立马改变图像识别的结果。人类理解机器思维可能比想象中更容易。看起来虽然机器一直在努力模仿人类的思维，但最终的结果是我们和机器无法相互理解。那么如果我们换个角度，让人类学习机器的思维方式呢？最近，约翰霍普金斯大学进行了这样一个实验。为了理解为什么机器能看到人类“看不到”的变化，约翰霍普金斯大学开展了一系列实验，让人类志愿者在图片中找出“机器错误”。比如给志愿者一张噪声图或者看似无意义的图案，让人类志愿者识别图片更像哪一种物体，混淆AI给出的结果。又比如给人类几个斑驳的数字图案，让人类志愿者选择AI可能把图案误认为是什么错误的数字。令人震惊的是，在大多数实验中，人类志愿者凭直觉迅速识别了人工智能的思维模式。以上图为例，81%的人类志愿者都准确检测到了机器会犯的错误。在总共有1700名志愿者参与的48次实验中，75%的人选择了与机器相同的答案，而只有2%的人从未选择过与机器相同的答案。这个惊人的实验结果告诉我们，即使抛开人类的基本认知逻辑，运用潜意识的第一反应，也能得到与机器相同的结果。看来，人类在神经网络黑匣子中的体验深度可能远超我们的想象。ConfrontingAdversarialImages：当人类开始明白这个实验的意义时，当然不是告诉大家我们都是机器人，而是教我们如何处理机器视觉可能犯的错误。在机器视觉认知模型的先天弊端下，很可能会存在很多可钻的漏洞。例如，自动驾驶在识别道路上的交通标志时，一个小贴纸可能会给视觉系统一种错觉，即交通标志被识别为突然刹车的行人。为了解决这种可能出现的情况，理解机器思维和逆向拆解或许是个不错的方法。从实验中我们可以看到，即使是不合逻辑的图案和纹理，人类也可以通过联想能力对这些图片进行更高级的认知和处理。实验中，人和机器进入同一个情境，面对几个分类选项做选择题。而这种分类选择可能是让机器陷入错误的关键。另一点是人类可以清楚地识别对抗图像。例子包括故意使数字难以阅读的斑驳图案，以及非常独特的花哨贴纸。那么说明这些对立形态也有自己的“对立特征”。虽然面对这种情况，最理想的方式是放弃卷积神经网络，应用认知计算，真正让人工智能基于更完整的世界观进行识别。但在认知计算出现突破之前，我们或许能够找到一些替代的解决方案。例如，在安全、自动驾驶等一些关键情况下，我们可以特意生成对抗样本供人类标注，在汽车、行人等常规分类中加入“对抗样本”分类，这样卷积神经网络就可以识别出来摆脱这些凌乱的模式。对于移动几个像素点就能改变机器认知的情况，在数据流通时很可能会出现压缩导致的错误。我们可以寻找改变机器认知结果的压缩规律，从错误发生的源头逆向整理错误。今天，“人和机器的思维模式非常相似”的新闻听起来像个笑话。但或许我们引以为豪的“人类意识”根本没有那么复杂，最终会以意想不到的方式与机器思维相遇。但在我们见面之前，我们还是应该利用人类思维和机器人思维的相似性来解决现实生活中的问题。
