近年来，集感知、融合、决策、控制于一体的自动驾驶技术无疑是近年来最热门的研发领域之一。
这得益于当前人工智能技术的发展，但在ThoughtWorks大数据团队首席科学家王小雷看来，人工智能并不是万能的，深度学习也能被“忽悠”。
在近日举行的ThoughtWorks技术雷达峰会上，王小雷发表了主题为《自动驾驶——人工智能的能与不能 》的演讲，并结合自动驾驶技术的最新发展，分享了我们对智能算法在现实世界中的优势和局限性的一些思考。
从自动驾驶备受争议的话题开始，2019年5月，工信部发布声明，将智能车联网提升至国家战略高度。
近三年来，各项政策相继出台，部分路段，包括北京、上海的部分道路，甚至已经开放道路测试。
然而，自动驾驶汽车的安全性和伦理最近一直存在争议。
特斯拉自动驾驶系统不仅发生了多起引人注目的事故，今年3月还发生了一起致命事故。
在这起致命事件中，一辆 Uber 自动驾驶车辆与一名行人相撞，导致该行人死亡。
这让人们开始关注自动驾驶技术的敏捷性和安全性，以及车企如何确保万无一失。
王小雷表示，相比于完整的信息游戏，自动驾驶更像是驾驶员与环境的对话。
涉及的环节很多。
比如定位、建图等；场景理解；路径规划；状态感知等。
如此复杂的过程必须依靠包括深度学习在内的人工智能技术来支持。
通过大量数据的采集和特征提取，机器可以独立完成基于一定算法的优化和改进，最终得出具有统计显着性的结果。
这个统计结果的结论其实很值得讨论。
由于数据量不足和模型本身等各种限制，深度学习无法达到%的准确率。
人工智能是有一套完整的算法支撑的，而这些算法的优化依赖于大量数据的不断训练，在训练数据上得到一个比较好的模型，然后利用这个模型对其他数据进行运算。
作出预测。
在这个过程中，任何因素都可能导致预测结果出现偏差。
例如，当我们尝试训练一个模型来创建一行字幕来描述图像的内容时，我们常常认为该模型是基于“理解”图像的内容来生成相应的字幕。
然而，当训练数据中存在的图像发生轻微变化时，例如调制一些特制的噪声，开发人员非常惊讶地发现模型开始创建完全荒谬的字幕。
通常，这种类型的行为被强调为对抗性案例，通过向深度学习网络输出错误样本来欺骗模型。
如上图所示，如果我们拍摄一辆卡车的照片，并添加“鸵鸟”梯度噪声，经过训练的神经网络可以以很高的置信度将卡车分类为鸵鸟，而人眼无法判断这两者根本没有图片。
之间的差异。
这证明深度学习模型并不是万能的，它们从输入到输出的映射与我们人类的感知之间存在着深刻的差异。
简而言之，深度学习模型无法理解其输入，至少在人类意义上是这样。
我们对图像、声音和语言的理解基于我们的运动感官体验。
然而，机器人没有这样的经验，因此无法以任何以人类为中心的方式理解它们的方法。
为了通过向模型提供大量训练示例来训练我们的模型，我们让它们学习几何变换，将数据映射到这组特定示例上的人类概念，但这种映射只是我们脑海中原始模型的简单草图。
这就是当前人工智能技术发展的困境。
同样，这也适用于自动驾驶技术。
“目前有两类人害怕人工智能。
一类是不懂的人，他们认为人工智能是破坏性的；另一类是懂的人，因为他们知道人工智能可以解决很多现实生活中的问题。
，但这需要正确理解和使用人工智能技术，尤其是算法的设计。
当算法应用到产品中时，我们不仅要考虑算法是否能够达到要求，还要考虑算法本身的性能和准确性。
这与算法本身的体系建设密切相关。
找到人工智能适合你的场景的位置。
人工智能只是一个简单的技术，需要与相应的应用场景相结合。
自动驾驶就是一个典型的应用。
人工智能能做的事情和人类想要做的事情之间的交集就是我们的机会。
因此，我们需要为人工智能寻找合适的落地场景。
为了实现这样的目标，我们需要思考以下问题：预测的目标能否量化？相关特征能否有效表达？指标和目标是否相关？是否有足够的数据来训练模型？不可否认，人工智能代表了未来的方向，但在一些特定场景下（自然）。
语言处理和计算机视觉），人们仍然感觉不到它的存在和意义。
目前，人工智能还远远没有被大众广泛接受，因为它真正缺乏的是核心的东西。
这是一个用户场景。
更准确的说，是一个接地气的用户场景。
目前，随着CNN、RNN等算法的成熟以及GPU计算能力的提高，人工智能今天需要面对的是如何深化其应用，从而提高其应用性。
行业发起变革。
特别是场景化、标签化的数据采集是人工智能应用落地的关键。
我们以安全为例。
在开源深度学习和计算机视觉算法的大趋势下，特征场景数据集的获取是人工智能视频分析技术在安防行业真正应用的关键。
2006年，美国达特茅斯大学会议标志着人工智能研究的正式诞生，推动了世界上第一波人工智能浪潮。
但人工智能的春天只持续了20年。
原因是当时过于强调算法和方法论，导致人工智能在处理问题的范围上受到限制。
时至今日，人工智能研究的发展已经走过了六十多年的风风雨雨。
从硬件的计算能力到深度学习算法、计算机视觉技术和自然语言处理，各个领域都实现了根本性的飞跃。
人工智能已经从学术层面的探索发展成为能够推动产业结构变革的新兴生产方式。
在这样的情况下，全社会需要正视人工智能技术，拥抱人工智能，推动其在行业的落地。
问题在发展中解决，不能因为噎着就不吃。
相信未来人工智能将在整个行业的创新中发挥越来越重要的作用。