早在1948年,图灵就写了一篇题为《智能机器》的论文,描述了现在处于人工智能核心的许多概念,包括遗传算法、神经网络、强化学习等等。在电子计算机出现之前的时代,图灵用纸和铅笔做出了这项开创性的研究,时至今日仍在热议。 很少有人知道,早在1948年,艾伦·图灵(AlanTuring)就写了一篇题为《智能机器》(智能机械)的论文,其中描述了人工智能中的许多联结主义。 这篇论文是图灵在伦敦国家物理实验室工作时写的,但没有得到他老板的认可。当时的实验室主任查尔斯·达尔文爵士称其为“学生论文”,并写信给图灵抱怨其“脏兮兮的”外观。 事实上,这篇有远见的论文是人工智能的第一份宣言,可惜图灵从未发表过。 在这篇论文中,图灵不仅阐述了联结主义的基本原理,还精彩地介绍了许多后来成为人工智能核心的概念,包括遗传算法和具有学习能力的神经网络组织机器”),甚至是思想强化学习。当然,这些概念在被其他人重塑后成为核心。 图灵在论文摘要中写道:本文讨论了使机器表现出智能行为的可能方法。指导原则类比于人脑。这篇论文认为,只有通过适当的教育,机器才能发挥人类的智力潜能。研究围绕着将类似的教学过程应用于机器。定义了无组织机器(unorganizedmachine)的概念,并提出人类大脑皮层ininfancy有这个属性。本文给出了此类机器的简单示例,并讨论了它们的奖励和惩罚educati在。在一种情况下,教育过程会一直持续到它的组织方式类似于ACE。 (注:ACE是指AutomaticComputingEngine,图灵设计的早期电子计算机。)AlanTuring 图灵说:我提议研究这样一个问题:机器是否有可能表现出智能行为。人们常常想当然地认为这是不可能的。“像机器一样做事”、“纯机械行为”等常见的短语揭示了这种普遍的态度。这篇论文在Reddit上引发了热烈讨论。 有人评论说:今天几乎所有“***”人工智能会议和期刊都会拒绝这样的论文,但我不得不说,我很欣赏它的简单和直接(和诚实)。这在图灵时代受到高度重视。编辑当时想到的最后一件事不是:“这会得到多少引用?” 有人评论:从长远来看,我认为跨学科是必经之路,但考虑到计算量和可用数据量以及尚未触及的领域或问题,您可以通过实验和使用暴力破解来获得一些结果力量。对于具有哲学背景的人来说,这是一本非常好的读物。 也说对了:这个家伙(图灵)实际上痴迷于洞察大脑过程。 谷歌大脑研究科学家DividHa推荐这篇论文:图灵在1948年提出利用进化来“训练”一种特殊类型的神经网络,他称之为“B型无组织机器”。他开发了二进制网络来执行当时的各种任务。 图灵是一个有远见的人。他了解这种机制所需的复杂性。我们的“深层网络”在信息处理复杂性方面非常浅薄:它们甚至无法推断任意长度的分支多米诺骨牌链的结果。 那么,图灵革命性的论文到底讲了些什么呢?新智元带来的解读: 图灵提出“无组织机器”:类比婴儿的大脑皮层 图灵在这篇论文中提出了“无组织机器”(unorganizedmachine)的概念,他认为人类婴儿的大脑皮层是一个“杂乱无章的机器”的例子,可以通过适当的干扰训练来组织。 图灵将杂乱无章的机器定义为最初在结构上基本上是随机的,但可以通过训练来执行特定任务的机器。 其实图灵的无序机是早期随机连接的神经网络模型,是对真实神经网络系统最简单的猜想之一。 图灵定义了两种类型的杂乱无章的机器。第一种是A型机器——它们本质上是随机连接的NAND逻辑门网络。 第二种称为TypeB机器,它采用TypeA机器的结构,并使用称为连接修饰符的结构来替换每个节点之间的连接。connectionmodifier的目的是让B机受到“适当的干扰,模仿教育”,以组织网络的行为来完成有用的工作。 B型乱序机可以说是神经网络的一种,由人工神经元组成,如下图圆圈所示;connection-modifiers显示在下图中的框中。B型网络中的两个神经元 在创造“遗传算法”一词之前,图灵甚至提议使用一种他称为“遗传搜索”的机制来配置他的杂乱无章的机器。 图灵认为,当网络中的节点数量很多时,B类机器的行为会非常复杂,并指出“从进化和遗传学的角度来看,大脑皮层的观点作为一台杂乱无章的机器非常重要。有道理。” 图灵神经网络的工作原理 如上图所示,每个神经元有两个输入,神经元的输出是两个输入的简单逻辑函数。网络中的每个神经元执行相同的逻辑操作,称为“Nand”。 Nand的定义如下表所示:在 中断模式(interruptmode)下,connection-modifier的输出始终为1。所以,如果神经元的输入连接之一通过connection-中断模式下的修饰符,则神经元的输出与第二个输入上的任何内容完全相反(或“布尔否定”)。 例如,表的前两行显示了当INPUT-1在中断模式下连接到修改器时会发生什么。在这种情况下,神经元的输出与INPUT-2相反。 图灵选择nand作为他的模型神经元的基本操作,因为其他逻辑(或布尔)操作都可以由一组nand神经元执行。图灵表明,甚至连接修饰符本身也可以由nand神经元构建。因此,每个B型网络都可以由nand神经元及其连接组成。这是最简单的大脑皮层模型。 下面是B型无组织机器的示例,图灵将其描述为“随机选择” 你能弄清楚这个网络的行为方式吗? 下面是一个更大的B型网络的例子,其中神经元自由互连:大型初始随机B型网络的一部分 在电子计算机出现之前用纸笔模拟的大脑 神经元的多个输出可以直接或通过一些中间神经元链连接到神经元自己的输入。 神经科学家长期以来一直强调大脑反馈的重要性和普遍性。例如,大脑使用反馈来帮助我们专注于某些感知,而不是排除其他感知。StefanTreue和JohnMaunsel最近发现,当一只猴子专注于计算机屏幕上几个独立移动点中的一个时,反馈会从较高皮质的神经元返回到识别神经元运动的较低皮质区域。 这种反馈作用是抑制响应非参与点运动的神经元的活动。然而,尽管它在大脑中很重要,但现代联结网络中很少使用反馈。相比之下,B型网络中的神经元可以非常自由地相互连接,并且像大脑一样,大型网络通常充满反馈。 图灵想研究更复杂的大脑皮层模型。他渴望做现代连接学家可以做的事情:用普通的数字计算机模拟神经网络及其训练方案。 他说他将“让整个系统运行相当长的一段时间,然后作为‘学校督察’介入,看看能取得什么进展”。但他自己对神经网络的研究发生在第一台通用电子计算机投入使用之前,当时他只能使用纸和铅笔。 后来,他把注意力转向了现在所谓的人工生命的研究。直到1954年,也就是图灵去世的那一年,B.G.麻省理工学院的Farley和W.A.Clark成功运行了小型神经网络的第一个计算机模拟。 图灵原论文: https://weightagnostic.github.io/papers/turing1948.pdf 解读: http://www.alanturing.net/turing_archive/pages/Reference%20Articles/connectionism/Turing's%20neural%20networks.html
