盘点AI在过去十年取得的重要突破。人工智能技术在过去十年突飞猛进,最狂野的科幻场景如今已成为我们生活中不可或缺的一部分。十年前,人们还在谈论AI理论化和实验,但多年来,AI变得更加切实和主流。无论是国际标准课程、平台、库、框架、硬件,一切顺理成章。可以毫不夸张地说,过去十年的成就奠定了未来的基础。本文将盘点过去十年人工智能的重要突破。卷积2012年是深度学习史上重要的一年。那一年,卷积神经网络(CNN)在著名的ImageNet挑战赛中大放异彩。AlexKrizhevsky等人设计的卷积神经网络“Alexnet”以远超第二名的成绩获得冠军。ImageNet数据集上的视觉识别错误率为15.3%,降低了一半。该神经网络在检测YouTube视频中的猫时达到了74.8%的准确率,在检测人脸时达到了81.7%的准确率。今天,人脸识别在手机和商场的应用,都得益于2012年的这项工作,识别准确率的提升让研究人员可以很有信心地部署医学影像模型。《Attention Is All You Need》2017年,Vaswani等人。具有级联效应,使机器能够以前所未有的方式理解语言。多亏了Transformer架构,人工智能现在能够编写假新闻、推文,甚至可能是政治动荡。在Transformer之后,谷歌推出了BERT模型,并将其用于关键词预测和SEO排名。BERT现在已经成为自然语言处理的事实标准,Microsoft和NVIDIA等公司开始增加更多参数以赶上该模型。NVIDIA的Megatron有80亿个参数,而微软的TuringNLG模型有170亿个参数。OpenAI的GPT模型后来居上,1750亿参数的GPT-3目前是历史纪录的保持者。GPT-3也是Transformer的延伸,是目前最大的模型。它可以编码、撰写散文和产生商业创意。只有人类想不到,没有它做不到。人工智能已经在国际象棋上击败了人类。以及更复杂的人类游戏,例如Jeopardy!游戏、围棋、德州扑克等,都没有挡住算法的脚步。近几年人工智能最著名的事件就是AlphaGo在最复杂的棋类——“围棋”中击败了人类顶尖棋手。同时,这十年,IBM的Watson还在Jeopardy!中击败了两个人!决赛中,Watson获得了77,147美元,而人类分别获得了24,000美元和21,600美元。Facebook与卡内基梅隆大学联合开发的DepoAIPluribus击败了五位人类高手,完成了前身Libratus(冷大师)未能完成的任务。该研究还刊登在2019年的《科学》杂志上。2020年12月,DeepMind的MuZero让AI模型掌握了多种游戏,包括将棋、国际象棋和围棋。解码生命每个生物体的行为都可以在其蛋白质中找到踪迹。蛋白质藏有秘密,破解它们可能有助于战胜冠状病毒大流行。但是蛋白质结构非常复杂,需要不断运行模拟。DeepMind试图解决这个问题。其开发的深度学习算法“Alphafold”解决了五十年的蛋白质分子折叠问题。计算机视觉已被证明有助于诊断,解决蛋白质折叠问题甚至可以帮助研究人员开发新药。人工智能:艺术家和骗子去年,一段比利时首相谈论迫切需要解决经济和气候危机的视频被证明是深度造假。使用机器学习和人工智能来操纵比利时首相的声音和表情,假视频让首相就全球变暖的影响发表演讲。这些造假内容的背后是一个精心设计的算法——生成对抗网络(GAN)。该算法于2014年推出,应用如此广泛,甚至侵入了人类工作的最后一道屏障:创造。这个网络可以生成不存在的面孔,交换面孔,让一个国家的总统胡说八道。GAN生成的一幅画甚至在佳士得拍卖会上以创纪录的40万美元成交。GAN的另一面是它们被用于恶意目的,以至于像Adob??e这样的公司不得不研究新技术来识别虚假内容。GAN将在未来十年继续被广泛讨论。秘密武器——硅神经网络的概念诞生于半个世纪前,如今流行的反向传播方法也出现了30年。然而,我们仍然缺乏能够运行这些计算的硬件。在过去十年中,我们看到有十几家公司致力于专门的机器学习芯片。多年来,芯片技术发展如此之快,以至于我们可以在手掌大小的设备上执行数百万次计算。这些芯片用于数据中心,用户可以在这里观看他们最喜欢的Netflix电影、使用他们的智能手机等等。接下来,用于边缘设备的定制AI芯片代表着价值数十亿美元的商机。Apple等公司已开发定制机器学习芯片(如A14Bionic)以提供智能服务。即使是依赖英伟达和英特尔的AWS,也在慢慢进入芯片业务。随着芯片变得越来越小,这种趋势只会变得更加明显:例如,使用NVIDIAJetsonAGXXavier开发人员套件,您可以轻松地为制造、零售、智能城市等创建和部署端到端人工智能机器人应用程序。Google的Coral工具包将机器学习引入边缘设备。安全、实时的输出是当前的主题。开源文化逐渐成熟来源:麻省理工科技评论2015年,TensorFlow开源。一年后,FacebookAI开源了基于Python的深度学习框架PyTorch。如今,TensorFlow和PyTorch是使用最广泛的框架。通过不断的版本更新,Google和Facebook为机器学习社区带来了极大的便利。自定义库、包、框架和工具的爆炸式增长,让更多的人进入了AI领域,也让更多的人才投入到AI研究中。开源是近年来的一大特色。开源工具和越来越多的可用资源(如arxiv或Coursera)促进了AI革命。另一个催化剂是流行的竞赛平台——Kaggle。Kaggle和GitHub培养了一批高素质的AI开发者。更多学习,更少规则Schmidhuber教授在1990年代初期提出的元学习概念直到最近才获得关注。元学习是指使机器学习模型能够基于有限的训练示例学习新技能并适应不断变化的环境。通过操纵超参数为特定任务优化机器学习模型需要大量用户输入,这可能是一个繁琐的过程。有了元学习,这个负担就大大减轻了,因为元学习自动化了优化部分。自动化优化带来了新的行业MLaaS(机器学习即服务)。未来方向有专家预测以下领域可能发挥主要作用:可再现性差分隐私几何深度学习神经拟态计算强化学习-驾驶汽车。然而,挑战更多的是数学上的挑战:做出准确决策的算法和处理它们的处理器已经存在,但尚不清楚它们何时会部署到应用程序中。无论是医疗保健还是自动驾驶汽车,人工智能仍然需要继续推进,而这只有在建立透明度和可重复性的情况下才会发生。
