编辑|王毅 当谷歌的AlphaGo击败人类顶级棋手时，人工智能开始更多地进入公众视野。
无论是它的深入应用还是可能存在的隐患，都是一个值得讨论的话题。
即使在科技巨头中，也存在截然相反的观点。
马斯克曾说过，“我们在智力上将远远落后于人工智能，最终将成为人工智能的宠物。
”另一方面，Alphabet董事长施密特表示：“如果你担心AI在智商上超越AI，想要毁灭人类，那你一定是科幻电影看太多了。
”近日，福布斯记者Peter Hay进行了一次采访专访人工智能教父杰夫·辛顿（Geoff Hinton），他谈到了很多关于人工智能的话题，在他看来，人工智能的流行并不是因为它的技术和原理。
他甚至透露，AlphaGo从90年代初就开始从事人工智能研究，是名副其实的人工智能先驱，他曾在萨塞克斯大学工作。
（英国）、加州大学圣地亚哥分校、剑桥大学、卡内基梅隆大学和伦敦大学学院。
他目前是多伦多大学的名誉教授。
他曾获得机器学习领域的加拿大国家研究奖，这是联邦政府对科学研究的最高荣誉和财政支持。
当年3月，Hinton的公司被谷歌收购，他也随之加入谷歌。
以下是主要内容： 神经网络正在向大脑靠拢。
Hay：来自多伦多大学的信息表明，你们一直致力于探索一种高效的深度学习算法，它可以像人类一样从庞大的多维数据集中进行学习。
梳理出其复杂的结构。
我想请您分享一下您对此的想法以及您在多伦多大学和 Google 的日常工作。
Hinton：当然，我们的大脑非常擅长处理和理解多维数据。
例如，来自视神经的信息具有数百万个权重，并且随着时间的推移而迅速变化。
每当我们看到一个场景时，我们的大脑就能帮助我们正确地解释它。
如果我们看到大象，大脑不会将其解释为狗。
但在实验室中，我们的神经网络系统偶尔会产生误解。
即便如此，在绝大多数情况下，我们的技术仍然可以准确地理解多维输入代表什么。
随着神经网络执行的学习次数的增加，准确性也会增加。
这是传统计算机无法实现的。
我们正在离人类大脑越来越近。
这与单纯从统计角度对低维度、少量训练数据、少参数的简单模型进行数据挖掘有着本质的区别。
大脑让我着迷的是它的参数远多于训练数据，所以现阶段的人工智能网络还不能说非常成功。
我们现阶段能够实现的是，我们的神经网络系统可以很好地处理数百万个权重和数百万个训练数据。
有时，数十亿级别也能处理得很好。
但我们的参数数量不能像人脑一样远远超过训练数据的数量。
对于每一秒的输入，人脑大约有 10,000 个参数需要处理。
对于像人脑这样庞大的系统如何工作以及如何分析数据，我们仍然知之甚少。
Hay：从宏观角度来看，在人工智能的发展过程中，您认为我们已经达到了哪个阶段？ Hinton：我认为我们已经跨过了一个非常重要的门槛。
不久前，大多数AI领域的从业者还在通过逻辑来对待AI技术。
这种人工智能仍然基于逻辑推理层面，利用符号结构来表达内在含义。
现在我们有了这个庞大的神经网络，一切都改变了。
我们目前的策略是使用巨大的向量来表示内部含义，而不再使用逻辑推理。
我们让这个庞大的神经网络自行学习，无需编程干预。
此前，人们认为这是一个幻想。
例如，取一串英文字符及其对应的法文字符组成一个字符串对。
如果有足够多的字符串对，神经网络系统就可以自动学习这两种语言。
如果你给它一个英语句子，它可以将这个英语句子转换成法语，基本上不会出现错误。
这项技术还不是很成熟，但目前的神经网络系统已经能够掌握这种方法的核心，但在速度方面还需要提高。
相信这项技术很快就会投入实际应用。
20、30年前的人会认为这个想法很荒谬。
机器要学习一门语言，当然需要对大量的语义、世界知识和其他信息进行编程。
让机器完全凭空、傻瓜般地、仅基于一些不包含实际语言知识的数据自动学习，这在当时听起来有点荒谬。
现在已经引入了模仿神经网络的概念，这个想法听起来并不那么荒谬，因为这就是大脑的工作方式。
所以我说，我们已经跨过了一个非常重要的门槛。
如今，大多数人工智能领域的人，尤其是年轻人都认为，如果想让一个系统获得以百万比特为单位的知识，最好的办法就是让它自己学习。
这无法通过手动输入来完成。
。
Hay：所以消除逻辑推理的原因是因为你已经从这种疯狂幻想的边缘走到了技术的核心，而且技术也在发展，变得越来越标准化。
Hinton：是的，我们很多人都相信，如果我们有足够的计算能力和数据，我们的愿景就可以实现，而且现在确实已经实现了。
现在我们的技术越来越成熟，如果我们能够获得更强的计算能力和更大的数据集，那么我们的模型就可以不断优化。
这在一切都需要编程的时代是不可能的，因此神经网络系统比以前所有的人工智能算法都更先进。
对人工智能的坚定信念源于对大脑如何工作的信念。
Hay：我很惊讶您从 20 世纪 90 年代就开始研究人工智能。
您于 2001 年在爱丁堡大学获得人工智能博士学位，当时计算机发展的局限性阻碍了您的研究。
在此期间，你并没有向那些对手解释太多，尽管他们可能成为你的同事、投资者，或者可能在其他方面帮助你。
不知道这些20多岁正在研究人工智能的年轻人现在是否意识到，自己是站在巨人的肩膀上，而这些巨人才是真正的梦想家，才是扫除这条道路上一切障碍的人。
。
您能谈谈是什么促使您在获得人工智能博士学位后仍然将这项研究作为您未来的职业发展方向吗？毕竟在那个时候，如果从事人工智能行业，成功的可能性并不像现在那么大。
Hinton：我想原因是这样的。
大脑必须有自己的工作机制。
大脑如何学习？它是如何利用这些简单的神经元来计算极其复杂的事物的？我的主要动机来自于我相信大脑的工作方式与当时的数字计算机不同，因为没有人对你的大脑进行编程。
我记得 2001 年有人向我解释神经网络系统永远不会被实现。
他们说：“神经网络无法运行递归算法。
”当时，递归算法被视为智能的本质。
看来我只能向他们演示一下了。
所以我开始向他们展示神经网络实际上是如何进行递归运算的。
我所说的真正递归是指如何利用节点之间的连接强度来做某事。
例如，我们要理解这句话：约翰不喜欢比尔，因为他对玛丽无礼。
为了理解子句“他对玛丽粗鲁”，我们将使用“他对玛丽粗鲁”。
“这句话作为一个独立的句子来理解所使用的神经节点和连接。
所以我需要做的是存储当前位置，离开主句并开始理解从句，然后再回来。
如果我想要为了证明这一点，那么我必须有这个神经网络系统，没有它我就做不到。
于是我开始搭建这个可以做真正递归的神经网络系统，通过在神经节点之前设置临时权重来记录节点信息。
我记得我当时向我的研究小组提到了这个想法，但他们不明白我为什么要这样做。
有趣的是，我当时试图解决的问题如今已经成为一项非常流行的技术。
几年前，当我们试图理解为什么人类可以自主学习时，这个问题变得很流行。
所以人类花了四十年才意识到神经网络是我们需要克服的问题。
多领域专家实现深度神经网络成果 Hay：您在 2016 年建立了神经计算和自适应感知（NCAP）项目，将计算机科学家、生物学家、电气工程师、神经科学家、物理学家和心理学家聚集在一起，复制了神经网络的运行机制人类的大脑。
这件事需要多学科的知识。
您能讲述一下寻找这些学科的世界级大师并创立这个组织的故事吗？ Hinton：没有人必须成为所有这些领域的专家，那太困难了。
你需要的是找到某个领域的专家并告诉他这个项目是什么。
这样您就可以向他提问并节省您查找信息的时间。
例如，如果你找到一位神经科学家，你可以问他这样的问题：“有一个正向投影及其从一个点到另一个点的反向投影，那么有多少个神经元参与这个循环？需要多少个神经元的信息？”转自？”突触间的传递如何完成这条线路并回到起点呢？ “如果你想自己解决这样的问题，你需要大量的时间去查阅文献，而且你不知道你所看的文献是否可信。
如果你有专家来帮忙，只要问他，他就会给你答案，所以团队里需要有各个领域的专家，这样可以节省时间，避免走弯路。
Hay：NCAP项目是邀请制的，所以可能只有你和。
各个学科的几个主要成员都知道，你们都知道建立这个组织的好处，可以节省时间，可以和不同学科的人交流工作。
Hinton：首先，当我建立 NCAP 时，我并没有想太多，我只是想把我认识的所有人聚集在一起。
谁可以沟通和协作来做到这一点。
选择候选人的标准有三个：智力、沟通和协作能力以及对神经系统工作原理的兴趣。
因为我从事这个研究很多年了，积累了很多这方面的人脉。
当我们在一起的时候，我们发现，哎，合作得还不错。
Hay：2000年以来，计算机的计算能力不断增强，这对您的研究肯定会有很大的帮助。
那么您认为目前NCAP的研究成果是什么？ Hinton：NCAP已经产生了很多科研成果，不仅在神经网络方面，而且在感知和运动控制等常见领域。
最有影响力的研究成果之一是深度神经网络。
大约在那个时候，业界普遍认为训练多层变量的神经网络非常困难，NCAP 的大多数人也认为没有办法通过纯粹的监督训练来构建神经网络。
所以，后来的历史发展其实有些偶然。
我们开始关注无监督训练：在不知道整个网络应该输出的正确结果的情况下如何逐层训练。
每一层都试图对其下层的结构和数据进行建模，我们称之为预训练。
这是让深度学习能够持续发展的重要突破。
有了这项技术，后续深度神经网络的研究将会变得容易很多。
后来人们发现，如果有足够的计算能力和数据支持，深度神经网络的研究可以摆脱上述方法。
很多时候，当你有大量数据时，比如长语音或视觉数据，你不需要预训练。
但预训练确实是推动深度神经网络技术持续发展的动力。
我们首先知道瓶颈可以通过预训练来解决，然后我们寻找摆脱预训练的方法。
我想正是因为预训练是NCAP首先提出的，所以很多其他研究者才把它作为突破的目标。
人工智能之所以不受欢迎，是因为它的原理和技术。
Hay：在采访了这么多人工智能领域的领军人物之后，我发现令我惊讶的是，很多相对较新的组织都有着长远的眼光并制定战略。
出于长远考虑，他们更喜欢不期望短期回报的投资者。
有许多组织将自己定位为非营利组织，这使得他们能够将技术研发作为首要任务。
这确实很少见，我们很幸运，有这么多顶尖人才着眼于历史发展而不是短期利益。
你怎么看待这件事？ Hinton：是的，我有几句话要说。
首先，不仅有技术，还有应用。
神经网络现在如此流行并不是因为它们的原理，而是因为它们确实可以做事。
语音识别、物体识别、机器翻译等应用非常震撼，人们更愿意在这方面投入资金来支持这方面的基础研究。
我认为“营利”比“非营利”更复杂。
比如谷歌投资大学做基础研究，这很好，对于大公司来说非常重要。
因为大学培养的优质毕业生可以为自己所用，大企业愿意投入资金给大学做基础研究，企业也能从中受益，所以关系非常微妙。
在英国、美国和加拿大的大学里，存在着很大的政治压力。
这些政治压力使得研究更加以应用为导向。
这样一来，政治家就有充分的理由花这笔钱：“我们投资这笔钱是因为我们能够在五年内偿还成本，我们能够为社会提供就业机会，或者我们能够盈利五年后。
”这不是做基础研究的正常路线。
真正有价值的研究必须来自对未知事物的好奇心。
因此，在我看来，投资大学进行应用研究是一个错误。
我认为大学应该做基础研究，企业应该做应用。
让大学研究更加应用化，这在自然科学领域是不合理和错误的。
这只对政治家或科学界的一些管理者有好处，因为它卖得很好。
谈起谷歌的人工智能，AlphaGo有直觉。
Hay：现在您已经在学术界和应用界之间架起了一座桥梁。
当您在多伦多大学担任教师时，您也加入了 Google。
据我了解，您在多伦多大学的时间大约是上午 9:30 到下午 1:30，您在 Google 办公室的时间是 2:00-6:00。
双方都被考虑在内。
您能谈谈这两个职业之间的联系和区别吗？ Hinton：我在谷歌处于一个独特的位置，因为我不再做我正在做的研究。
我在神经网络领域工作了很多年，所以我经历了很多想法的产生和拒绝。
当时许多想法都被拒绝了，因为计算机还不够强大。
我现在的工作是为谷歌神经网络团队提供可能为他们当前工作提供信息的旧想法，利用我多年来开发的正确解决方案来帮助他们做事。
我现在所做的就是为谷歌的基础研究提供具体可行的应用模型。
这与大多数Google员工所从事的针对某个应用程序的具体开发工作不同。
在DeepMind部门（创造了AlphaGo的部门），许多员工所做的就是发现新方法。
在神经网络团队中，会有专注于神经网络基础科学研究和新算法开发的人。
Hay：您提到了 DeepMind 部门，这在之前 AlphaGo 和李世石的围棋比赛中被广泛讨论。
你认为这场比赛的重要性是什么？标注已有的科研成果？吸引更多人从事人工智能研究或创办公司？您能分享一下您对这个问题的看法吗？ Hinton：AlphaGo 的有趣之处在于它具有普通计算机所没有的东西，那就是直觉：看着棋盘并选择正确的位置下棋。
为什么选择这里？因为感觉就在这里。
这就是神经系统和以前基于逻辑运算的人工智能的区别，过于理性了。
事实上，我们现在要做的就是用神经网络逐步覆盖??以前逻辑运算AI的应用范围，因为我们现在有了直观的计算机。
人工智能的真正危险 海伊：太棒了！许多投资者的投资引发了对人工智能安全性的担忧。
人们想确认人工智能带来的隐患是否可以随着领域的发展得到控制。
您如何看待人工智能给我们带来的机遇和隐患？ Hinton：让我用挖掘机来比喻。
挖掘机在道路上挖洞的速度比人工挖洞快得多。
同时，挖掘机也可能会撞掉你的头。
显然，人们在设计挖掘机的时候就已经考虑过如何控制它，让它不至于炸爆路人的头。
我想这在计算机领域也是一样的。
我们在开发人工智能时，会考虑在什么情况下可能发生意外，并考虑到一切被别有用心的人利用或误用的可能性。
显然所有的高科技都可能被滥用，但是否会被滥用取决于政策法规的限制。
其实你害怕的是政客用人工智能作为武器，所以我认为这不是技术本身的问题。
AI产业无论如何都会继续发展，能否用于造福人类还要看政策。
就像自动答录机一样，当自动答录机出现时，很多银行员工因此失业，当时肯定有抱怨。
但现在回想这件事，没有人会说：“我们不应该启用自动答录机”。
因为它更方便，取代了简单的重复性工作。
当时被替换的很多人也都找到了更有趣的工作。
我想现在的情况也是一样。