在人工智能70年的历程中，研究人员最不愿面对的惨痛教训是……从那以后，人工智能研究走过了这么多年的征程，经历了多少高峰，也经历了多少低谷。不忘过去的老师，就是未来的老师。这期间吸取了很多教训，需要我们反复吸取，但最重要的教训却让很多研究者难以接受。我们从70年的人工智能研究中吸取的重要教训是，最大限度地利用计算能力的一般方法最终是最有效的方法，具有巨大的优势。其根本原因是摩尔定律，或者更准确地说，是摩尔定律的推广，它继续以指数方式降低单位计算成本。大多数AI研究是在代理可用的计算量恒定的情况下进行的，在这种情况下，利用人类知识将是提高性能的唯一方法。这不可避免地需要大量计算，并且比通常的研究项目花费的时间稍长。为了在短期内取得进展，研究人员试图利用该领域现有的人类知识，但从长远来看，只有计算才是真正有用的。两者不一定是对立的，但在实践中往往是对立的。花时间研究一个自然会忽略另一个，有点像投资中的心理承诺。人类的知识方法往往比较复杂，不利于使用通用的计算方法发挥比较大的作用。人工智能研究人员来不及吸取这一惨痛教训的例子很多，其中一些最典型的例子会给我们带来启示。在1997年的国际象棋比赛中击败世界冠军加里卡斯帕罗夫的算法基于大量的深度搜索。当时，这让大多数计算机国际象棋研究人员感到沮丧，毕竟他们一直在探索利用人类对国际象棋特殊结构的理解的方法。当充分证明这种使用特殊硬件和软件的相对简单的基于搜索的算法更有效时，基于人类知识的国际象棋研究人员不能输。他们争辩说这次“蛮力”搜索可能会获胜，但这不是一种常见的策略，也不是人们下棋的方式。这些研究人员希望基于人类知识的方法能够获胜，但他们感到失望。计算机围棋也有类似的研究进展模式，只是20年后。起初，人们试图利用人类知识或游戏特性来尽可能避免搜索，但一旦搜索被大规模有效应用，一切努力都付之东流。同样重要的是学习，即通过自我对弈来学习价值函数（就像在许多其他游戏甚至国际象棋中一样，尽管这对1997年首次击败世界冠军没有多大用处）。自我对弈学习和一般学习就像搜索一样，可以进行大量计算。搜索和学习是在人工智能研究中利用海量计算的两种最重要的技术。在计算机围棋中，就像在计算机象棋中一样，研究人员最初想利用人类的理解来实现他们的目标，但很久以后他们不得不接受搜索和学习，这更成功。在语音识别领域，早在20世纪70年代，美国国防高级研究计划局就发起了语音识别竞赛。条目利用了许多使用人类知识的特定方式，例如利用词汇知识、音素知识、人类声道知识等。另一方面，基于隐马尔可夫模型(HMM)的新方法在本质上更具统计性和计算强度。统计方法再次战胜了基于人类知识的方法，导致自然语言处理领域发生重大变化。经过几十年的发展，统计和计算已经在该领域占据主导地位，最近语音识别中深度学习的兴起是朝着这个方向迈出的最新一步。较少依赖人类知识而更多依赖计算的深度学习方法，结合从大型训练集中学习，创造了比原始语音识别系统更好的系统。就像在游戏中一样，研究人员总是试图让系统按照他们想要的方式工作。他们试图将知识放入系统中，但当摩尔定律使大规模计算变得可行并找到有效使用它们的方法时，结果却适得其反，并且浪费了研究人员的大量时间。计算机视觉领域也有类似的模式。早期的方法将视觉视为搜索边缘、广义圆柱体或搜索SIFT特征，但今天这些观点已被放弃。现代深度学习神经网络只使用了卷积和一些不变量的概念，使用起来要容易得多。这是一个重要的教训。我们一直在犯同样的错误，从未完全理解人工智能领域。如果你想避免再次犯错，你必须了解导致错误发生的原因。从长远来看，按照我们认为的方式构建系统是行不通的，这是一个必须吸取的惨痛教训。这个惨痛的教训来自历史观察：AI研究人员经常尝试将知识构建到智能体中，这在短期内总是有用的，并且让研究人员个人感到满意。但从长远来看，这种做法是停滞不前的，甚至阻碍了进一步的发展。通过采取相反的方法，基于搜索和学习的大规模计算，研究人员终于取得了突破。这种痛苦的成功，往往难以完全接受，并不是通过支持性的、以人为本的方法取得的。我们应该从惨痛的教训中吸取的教训是，通用方法具有巨大的力量，并且这些方法随着可用计算量的增加而扩展，即使可用计算量变得巨大时也是如此。搜索和学习似乎是两种这样的方法。一种可以随意扩展的方法。我们要学习的第二件事是，思想的内容其实是极其复杂的。我们不应该再用简单的方法来探索思想的内容，比如思考空间、物体、多主体或对称性。这些都是外部世界的一部分，外部世界具有任意性和复杂性。它们不应该被固化，因为它们无穷无尽的复杂性。相反，所有需要构建的都是可以发现和捕获这种任意复杂性的元方法。这些方法的要点是它们捕获了很好的近似值，但这种捕获应该由我们的方法完成，而不是我们自己。人工智能代理要做的是像人类一样去发现，而不是存储我们的发现。建立在人类发现的基础上使得更难了解发现过程是如何完成的。经过70多年的探索，这些事实对研究人员来说越来越清晰。即使他们不想再去面对，他们仍然需要认清这些现实。避免犯错的方法就是面对它们。
