也许你觉得人工智能离你还有点远，它只存在于谷歌庞大的数据中心机房，或者神秘的麻省理工学院机器人实验室。事实上，通过互联网和智能手机，人工智能已经开始渗透到我们的日常生活中。假设你住在作者的家乡厦门，一个美丽的福建海滨城市。当你早上醒来，打开手机上的“今日头条”APP看今天有什么新闻时，“今日头条”的人工智能推荐系统会根据你喜欢的NBA篮球明星推荐给你。你过去的阅读状态。库里的胜利消息。上班途中，当你打开“百度地图”APP，直接语音说出目的地“厦门大学”，“百度地图”会自动识别你带有福建口音的普通话，引导你前往不那么堵车的线路。当你到达公司，当你打开邮件系统时，基于人工智能的反垃圾邮件算法已经为你拦截了数十封垃圾邮件，默默地帮助你提高工作效率。您还可以使用“科大讯飞”的人工智能语音输入软件口述一份重要文件，并使用“GoogleTranslate”将文件翻译成英文和西班牙文，然后发送给您的国外客户。中午吃过午饭，你和同事去附近的公园散步，看到草坪上有一棵开着红花的树，很漂亮。你想知道这种花叫什么名字，于是你打开手机上的“行世”APP，拍照上传，很快，人工智能图像识别算法识别出这种花的学名是红花，又名作为紫荆花，花语象征手足情谊……这些给我们带来便利和快乐的人工智能算法背后，核心是人工智能领域最火的深度学习技术。第二章讲述了人工智能在国际象棋和围棋领域超越人类世界冠军的故事。AlphaGo围棋软件之所以特别强大，是因为它的策略网络和估值网络。这两个子系统的生成也依赖于深度学习。你可能会问，什么是深度学习？简单来说，机器学习是人工智能中非常重要的一门学科，而深度学习是机器学习的一个分支。机器学习使计算机能够通过大量数据或过去的经验进行学习，不断优化计算机程序的性能，实现分类或预测等功能。深度学习允许具有多个处理层的神经网络计算模型学习具有多个抽象级别的数据表示。简单来说，深度学习可以发现大数据中的复杂结构。尽管这些概念听起来很复杂，但本书的其余部分将对它们进行进一步解释。近年来，深度学习在图像识别、语音识别、自然语言处理、机器人、自动医疗诊断、搜索引擎等方面取得了惊人的成果，并开始通过手机和互联网全面影响人类的工作和生活。在本章中，让我们重温深度学习的历史，探索人工智能和深度学习的各种应用。早期人工神经网络深度学习的概念起源于人工神经网络的研究。早期的神经网络模型试图模仿人类神经系统和大脑的学习机制。1943年，神经生理学家WarrenMcCulloch和逻辑学家WalterPitts共同发表了重要论文《神经活动中内在思想的逻辑演算》（Alogicalcalculusoftheideasimmanentinnervousactivity）。在论文中，他们模拟了人类神经元的细胞结构，提出了McCulloch-Pitts神经元模型（McCulloch-PittsNeuronModel，简称MP模型，见图3.1），将神经元的概念引入计算领域，用于第一次，并提出了第一个人工神经元模型，从此打开了神经网络的大门。表3.1是生物神经元和MP模型。图3.1MP模型表3.1生物神经元和MP模型MP模型大致模拟了人类神经元的工作原理，即对一些输入信号进行变换，得到输出结果。在图3.1中，图的下半部分是一个人工神经元，有N个输入信号x1，x2，...，xN（对应人类神经元的N个树突，每个树突与其他神经元相连得到一个信号），每个信号对应一个权重（对应每个树突连接的重要性），即W11，W12，...，W1N，计算这N个输入的加权和，然后通过一个阈值函数得到“0”或“1”输出。输出结果，在人类神经元中，“0”和“1”可以代表神经元的“抑制”和“激活”状态，在人工神经元中，“0”和“1”可以代表逻辑上的“否”和“是””。1958年，心理学家弗兰克·罗森布拉特（FrankRosenblatt）教授提出了感知器模型（Perceptron）。感知器是基于MP模型的单层神经网络。它是第一个可以根据样本数据学习权重的方法。特征模型。对于可以线性分为两类的数据，根据感知器的纠错算法，可以根据样本数据进行迭代计算，最终实现计算收敛，得到每个输入x对应的权重W可以确定。我们把迭代操作的过程称为“神经网络训练”，最终训练好的神经网络可以对新数据进行分类和预测。这是最简单的“机器学习”过程。受感知机模型的启发，许多数学家、物理学家和计算机工程师在20世纪60年代投身于神经网络的研究。1969年，著名人工智能专家Minsky教授和SeymourPapert教授出版了《感知机：计算几何学导论》一书（Perceptrons:AnIntroductiontoComputationalGeometry），证明了感知机模型只能解决线性可分的问题，并明确指出感知机不能解决非线性可分问题，例如XOR问题。同时书中还指出，在当时的计算能力下，要实现多层神经网络几乎是不可能的。Minsky教授和Papert教授对感知机研究的悲观预测导致了神经网络研究的第一次低潮。本书出版十多年后，基于神经网络的研究几乎停滞不前。一代大师杰弗里·辛顿1986年，一代深度学习大师杰弗里·辛顿（GeoffreyHinton）教授开始崭露头角。今年，Hinton教授和大卫·鲁梅尔哈特教授（DavidRumelhart）以及RonaldWilliams教授在《通过反向传播算法实现表征学习》期刊上发表了重要论文《通过反向传播算法实现表征学习》（LearningRepresentationsbyBack-propagatingErrors）。文中提出的反向传播算法大大减少了网络所需的训练神经网络时间。直到30年后的今天，反向传播算法仍然是训练神经网络的基本方法。同时，Hinton教授提倡的深度神经网络也能很好地解决异或问题等线性不可分问题。Hinton教授（见图3.2），1947年出生于英国。他出生在一个非常传奇的家庭。他祖父的祖父是伟大的数学家乔治布尔，布尔代数的创始人。GeorgeBull的妻子是写了《代数的哲学和乐趣》的作家MaryEverest。玛丽·埃弗勒斯的叔叔是英国著名的测量员和探险家乔治·埃弗勒斯。他曾任当时英属印度殖民地测绘局局长，领导喜马拉雅山的测绘工作。后来英国人以他的姓氏命名了世界第一高峰珠穆朗玛峰，英文名MountEverest。Hinton教授的全名是GeoffreyEverestHinton。当他的家人给他取名珠穆朗玛峰时，或许是祝福他日后攀登科学高峰。顺便给文艺青年“八卦”一下。GeorgeBoole的小女儿EthelLilianVoynich是中国读者特别喜欢的长篇小说《牛虻》的作者。她自己的生活和爱情也异常精彩。相传她还与超级间谍西德尼·赖利（电影中詹姆斯·邦德的原型人物《007》）有过一段恋情，在此不再赘述。图3.2辛顿教授，一代宗师，辛顿教授的父亲霍华德·埃弗雷斯特·辛顿（HowardEverestHinton）是一位昆虫学家，他的曾祖父查尔斯·霍华德·辛顿（CharlesHowardHinton）是著名的数学家最早的科学作家和科幻小说作家。从高中开始，Hinton就对人脑和神经网络的奥秘着迷。Hinton于1970年毕业于剑桥大学，获得实验心理学学士学位。1978年获得爱丁堡大学人工智能博士学位，后在卡耐基梅隆大学计算机系工作5年。后来移民加拿大，成为多伦多大学著名教授。在Hinton教授的前20年科研生涯中，虽然取得了很多成就，但由于计算机的计算速度不够快，深度神经网络的优化相对困难，所以基于深度学习的深度神经网络尚未在学术界得到广泛应用。也很难得到足够的重视、发表文章和获得研究经费。Hinton教授非常坚定和默默地坚持自己的研究工作，同时培养了很多优秀的学生和合作者，包括后来在深度学习领域声名鹊起的YannLeCun和YoshuaBengio。).2004年，依托加拿大高等研究院的资金支持，Hinton教授创立了“神经计算与自适应感知”项目，简称NCAP项目。NCAP项目的目的是创建一个世界一流的团队，致力于模拟生物智能，即大脑使用视觉、听觉和书面语言线索来理解和响应其环境的过程。Hinton教授精心挑选研究人员，邀请计算机科学、生物学、电气工程、神经科学、物理学和心理学等领域的专家参与NCAP项目。后来的事实证明，Hinton教授设立这样一个人工智能研究的跨学科合作项目是一个伟大的创举。许多定期参加NCAP项目研讨会的研究人员，例如YannLeCun和JoshuaBengio以及吴恩达（AndrewNg），如图3.3所示，后来也取得了非常出色的成果。核心是这个团队系统地创造了一批更高效的深度学习算法。最终，他们的杰出成就推动了深度学习成为人工智能领域的主流方向。2012年，欣顿教授获得了有“加拿大诺贝尔奖”之称的加拿大最高国家科学奖KillamPrizes。图3.3从左到右分别是LeCun、Hinton、Bengio和吴恩达。2013年，Google收购了Hinton教授创立的公司DNNResearch。事实上，这家公司没有产品和客户，只有三个深度学习领域。伟大的人，Hinton教授和他的两个学生亚历克斯·克里热夫斯基（AlexKrizhevsky）和伊利亚·苏茨科弗（IlyaSutskever），他们在2012年赢得了ImageNet竞赛）。有人嘲笑谷歌花了数千万美元买了几篇论文。笔者认为，谷歌斥巨资引进世界顶尖人才的方式，恰恰反映了谷歌的两位老板拉里·佩奇（LawrenceEdwardPage）和谢尔。盖伊·布林（SergeyBrin）对未来有着巨大的天赋，非常值得中国企业家学习。2014年，谷歌斥资4亿美元收购DeepMind时，DeepMind还是一家小公司，刚刚在《自然》杂志上发表了一篇关于电脑游戏使用强化学习算法的论文。很多人不明白为什么这家公司物有所值。后来，DeepMind开发出震惊世界的AlphaGo后，人们开始相信佩奇和布林的远见。
