图灵奖获得者YoshuaBengio：深度学习的当务之急是理解因果关系。图：《将因果关系融入人工智能是一件大事！-YoshuaBengio今年3月，YoshuaBengio因其在深度学习技术方面的杰出贡献获得了计算机科学领域的最高荣誉图灵奖。正是深度学习技术掀起了人工智能的复兴浪潮，也让无人驾驶汽车、即时语音翻译、人脸识别一步步成为可能。而现在，Bengio指出，“深度学习已经达到了瓶颈。”他认为，除非深度学习能够超越模式识别，真正掌握更多因果信息，否则根本不可能发挥其全部潜力，带来一场真正的人工智能革命。换句话说，深度学习应该开始理解“为什么”。这位55岁的蒙特利尔大学教授有着浓密的白发和浓密的眉毛。他解释说，深度学习技术在理想场景中确实表现良好，但如果没有推理因果的能力，它们就无法达到人类水平的智能。“将因果关系整合到AI中已成为当务之急，”Bengio说。“机器学习的当前实施基于一个基本假设，即当训练AI系统解决实际问题时，它会面临与训练数据不同的数据。但在现实生活中，事情并没有那么简单”当前的机器学习系统，包括深度学习，往往高度专业化，只针对特定任务进行训练，例如识别图像中的小猫，或音频中的语音指令等。自2012年推出以来，深度学习在数据模式识别方面表现出色能力。无论是从医学影像材料中发现癌症迹象，还是通过账户记录识别欺诈活动，深度学习技术已经广泛应用于许多实际场景中。但是，深度学习天生就对因果关系视而不见。与真正的医生不同，深度学习算法无法解释为什么特定的图像模式可能会受损，这意味着在某些危急情况下，必须谨慎使用深度学习，了解因果关系后，现有的人工智能系统将在智能和执行效率方面得到提升。例如，如果你想让机器人意识到快速下落的瓷器非常脆弱e、不用把几十个花瓶扔在地上看效果。Bengio补充说，上面的例子也可以扩展到自动驾驶汽车。“人类不需要经历很多事故就可以意识到小心驾驶的重要性，因为我们人类可以在脑海中想象事故场景，以便在事故发生时做好心理准备。”被赋予了这种能力？在他的研究实验室中，Bengio正在开发一种新版本的深度学习，可以识别简单的因果关系。他和他的同事最近发表了一篇概述该方法的研究论文。他们使用一个数据集，以概率的方式描述现实世界现象（如吸烟和肺癌）之间的因果关系。从那里，他们创建了多组直接包含因果关系的综合数据集。论文中提到的算法，本质上可以对哪些变量之间存在因果关系做出基本假设，然后检验不同变量的调整是否与其最初的判断一致。机器最终可以使用这种方法来形成关于物体掉落时可能发生的情况的假设，然后通过实际观察物体撞击地板几次来确认他们的结论。Bengio已经参与了一场人工智能革命。几十年来，他与今年的其他几位图灵奖获得者一起，包括多伦多大学和谷歌的GeoffreyHinton，以及纽约大学和Facebook的YannLeCun，他开发了释放现代思想和工程技术的潜力，以挖掘深度学习的潜力。学习。深度学习使用人工神经网络来生成和加强模仿人类神经元和突触学习方式的数学联系。训练数据（例如图像或音频）被馈送到神经网络，神经网络分析训练材料并自我调整，直到它以正确的方式做出响应。因此理论上，只要有足够的训练图像和足够的计算能力，就可以训练深度学习程序以高精度识别照片中的物体。深度学习使用人工神经网络在数学上近似人类神经元和突触如何通过形成和加强连接来学习。图像或音频等训练数据被输入神经网络，神经网络会逐渐调整，直到做出正确响应。如果一个深度学习程序可以看到大量的训练图像并且有足够的计算能力，它可以被训练来高精度地识别照片中的物体。然而，深度学习算法不善于总结，很难将在一种场景中学到的知识应用到另一种场景中。换句话说，深度学习只能捕捉现象之间的相关性——比如公鸡打鸣和太阳升起——但它无法解释这种相关性的根本原因。许多其他领域在因果关系的研究上投入了大量的时间和精力。近几十年来，许多探索因果关系的数学技术已经彻底改变了许多领域，包括社会科学、经济学和流行病学。行业研究范式。一些研究人员已经开始努力将因果关系与机器学习相结合。因对因果推理的贡献而获得2011年图灵奖的JudeaPearl说，他对Bengio的思维方式印象深刻，尽管他并没有认真研究过它。在她最近与人合着的《因果之书：因果关系的新科学（The Book of Why: The New Science of Cause and Effect）》中，Pearl认为，如果没有推理因果关系的能力，AI的发展将从根本上受到限制。认知科学实验还表明，理解因果关系对人类成长乃至智力发展至关重要，尽管目前尚不清楚人类如何获得这种关键知识。Bengio对因果关系的研究代表了业界对该问题探索的重要一步。虽然只是一小步，但可以看出深度学习正在朝着现实主义的方向勇敢迈进。事实上，尽管这项技术的应用正在迅速普及，但越来越多的专家提到“它在语言理解等核心领域仍面临严重局限”。在采访中，本吉奥还对企业严重夸大人工智能和深度学习的实际能力表示失望。“在我看来，商业世界会很好地扭转这股炒作浪潮，”他说。“现在炒作太多了。”其他研究人员认为，过度关注深度学习也是罪魁祸首。一。纽约大学名誉教授GaryMarcus在最近发表的《重新引导AI：构建我们能够信任的人工智能（Rebooting AI: Building Artificial Intelligence We Can Trust）》中提到，Bengio对因果推理的关注预示着技术思维的可喜变化。他说，“目前太多的深度学习项目只关注粗略的相关性而没有因果关系，这往往导致深度学习系统在真实世界条件下（与训练场景明显不同的条件下）测试时往往无法产生结果。.实际表现不错。Marcus认为，人类行为应该成为指导人工智能技术发展的重要依据。一旦机器学会了问“为什么”，它的智能水平也将迎来真正的飞跃。“
