NeurIPS录用论文,29%作者拥有中国大学本科学历,但54%会赴美深造毕业后攻读博士学位。90%选择在美国学习和工作。剑桥大学2020年版《AI 全景报告》有哪些值得关注的AI新观察?机器之心报道,作者:泽南、丹江、小舟人工智能是基础科学与工程实践相结合的技术领域。近年来,越来越多的其他方向被整合。在当今日益数字化的世界中,人工智能将推动技术进步。近日,剑桥大学2020年版《AI 全景报告》终于发布,这是第三期年报。与往年一样,该报告引用了知名科技公司和研究团体的数据。新版AI全景报告从研究、人才、产业、政策和未来展望几个方面介绍了人工智能领域近期的发展趋势。该调查的两位主要作者NathanBenaich和IanHogarth都来自剑桥大学。报告地址:https://www.stateof.ai/一、人工智能研究进展虽然人工智能领域的发展伴随着开源框架和活跃的社区,但在今年的报告之初,我们仍然需要发言与数据。首先让我们明确一点:人工智能研究并不像我们想象的那样开放。在深度学习框架方面,正如我们最近感受到的,在各种AI顶级会议的论文中,研究人员广泛使用了PyTorch,它已经抢占了原来TensorFlow的大部分位置。在GitHub上,PyTorch也有比TensorFlow更多的新研究实现:据统计,现在约有47%的实现基于PyTorch,而TensorFlow的这一比例约为18%。另一方面,大规模模型正在推动NLP领域的技术进步。OpenAI的GPT-3等新研究已将深度学习模型的参数数量推至数千亿。按照目前云服务的算力价格,训练一个1000个参数的模型平均需要1美元,而拥有1750亿个参数的GPT-3可能要花费数百万美元。一些专家认为,这个数字超过了1000万美元。高昂的培训成本让研究人员在探索新方向时遇到了挑战。在AI模型训练对计算能力要求越来越高的同时,传统的计算机架构也逐渐接近摩尔定律的尽头。根据麻省理工学院等大学的研究,如果科学家希望将ImageNet数据集的图像分类任务的错误率从11.5%降低到1%,可能需要数百亿美元的投资。不过,人们也在研究提高模型效率的方法。OpenAI的统计数据显示,自2012年以来,将ImageNet图像分类的深度学习神经网络训练到一定水平所需的计算能力每16个月减半。.毫无疑问,GPT-3、BERT等模型将NLP领域的研究带入了一个新的阶段。甚至还有自动翻译编程语言的无监督机器翻译工具。在GitHub上以90%的准确率将C++函数翻译成Java。技术的快速发展源于人工智能领域的高研究强度。据统计,全球AI方法(深度学习、NLP、计算机视觉、强化学习等)的论文数量自2017年以来每年以50%的速度增长,2020年我们可能会看到超过21000篇新论文在人工智能领域。然而,目前大多数机器学习应用都是通过统计来实现功能,而忽略了人类学习知识的重要方法——因果推理。在为患者寻找诊断和治疗等任务中,因果推理是一种更好的方法。JudeaPearl和YoshuaBengio等人工智能先驱认为,因果推理是一个新的方向,可以让机器学习系统泛化得更好、更强大、更稳健,为决策做出更大的贡献。2、人工智能人才:以美国为主导的人工智能领域研究人员分布近年来呈现出几个新趋势。人才流失首先,学术界面临人才流失,美国的许多研究教授离开大学到科技公司任职。从2004年到2018年,谷歌、DeepMind、亚马逊和微软从美国大学聘请了52位终身教授。卡内基梅隆大学、华盛顿大学和伯克利大学同期失去了38位教授。值得注意的是,仅2018年就有41位AI教授离职。从人工智能峰会来看,具有中国教育经历的研究人员近年来在人工智能领域的研究中做出了突出贡献。以人工智能领域顶级国际会议NeurIPS2019为例,29%的录用论文作者拥有国内本科学历。但在国内大学毕业后,继续在NeurIPS发表论文的毕业生中有54%去了美国。在人工智能领域,美国依然是国际研究的中心,在美国毕业的博士生90%会留在美国继续工作。非美国人工智能博士毕业生更有可能在毕业后为大型科技公司工作,而美国博士。毕业生更有可能为初创公司工作或加入学术界的研究行列。与此同时,许多美国AI博士毕业生毕业后前往英国和中国寻找工作。接下来,我们从研究机构的角度来分析一下AI领域的概况。以NeurIPS2019为例,谷歌、斯坦福、卡内基梅隆大学、麻省理工学院和微软的论文发表数量位居前五。人才供不应求作为当下最热门的研究领域之一,人工智能领域对人才的需求持续增长。许多一流大学也在扩大人工智能专业的招生规模。以斯坦福为例。近年来,斯坦福AI领域的学生人数是1999-2004年的十倍,AI领域的学生人数也比2012-2014年翻了一番。尽管如此,来自Indeed的数据显示,职位空缺的数量仍然是求职者数量的大约三倍。但2020年人工智能领域的人才市场不可避免地受到新冠疫情的严重影响。LinkedIn公布的数据显示,2020年机器学习职位的强劲增长趋势在2月份受到冲击,开始回落。3.业界正在快速开发人工智能设计的药物,第一阶段的临床试验已经在日本开始。在人工智能医疗领域,不少初创公司纷纷集巨资,实现“平台化战略”。新冠疫情期间,不少科技公司也迅速将AI医学影像识别技术投入实际应用。最近,医疗保险和医疗补助服务中心提出了基于深度学习的医学影像产品的成本核算标准。AI系统可以快速扫描胸片等多种医学影像,并将筛查结果提交给人类专家,排除非敏感因素。说起人工智能,最有意思的就是自动驾驶。自2018年以来,在加利福尼亚州获得自动驾驶汽车测试许可的66家公司中,只有Waymo(谷歌)、Nuro和AutoX这三家公司获准在没有安全驾驶员的情况下进行测试。即使在最自由的加利福尼亚州,与人类相比,自动驾驶汽车行驶的里程迄今为止也微不足道——自动驾驶汽车公司在2019年的行驶里程比2018年多了42%。但这只是行驶里程的0.000737%2019年由加州持照司机驾驶。以每次人工干预前汽车自动驾驶的里程数作为标准,未必是最客观的。在美国的一些州,不记录双手离开方向盘行驶的英里数。不过最近,我们看到了这些数据的新变化。百度的自动驾驶在人工干预之间已达到18,050英里,超过Waymo(谷歌)的13,219英里。对于不断加强AI投入的百度来说,近期的投入已经开始见效。自动驾驶领域的企业必须有强大的资金支持。被亚马逊以13亿美元收购的Zoox,自2015年以来已融资超过9.55亿美元,Zoox最新估值约为32亿美元。交易文件显示,Zoox在2020年初每月烧掉3000万美元。国内旅游公司滴滴最近也剥离了自动驾驶业务,并从软银愿景基金等机构筹集了5亿美元。7月,滴滴在上海推出自动驾驶汽车服务。目前,自动驾驶系统中的大多数机器学习算法只关注车辆周围的事物,并且基于精心设计的手写规则。研究人员正在开发类似于AlphaGo的新算法,它从大量人类驾驶经验中学习进行训练。最近,Waymo、Uber、Lyft都展示了模仿学习和逆向强化学习的新技术。自动驾驶等领域的发展也需要大量的计算能力。今年Graphcore、Nvidia等公司推出的新一代芯片成为了人们的希望。政策变化除了人工智能研究的方向,人工智能应用的快速落地也引发了对隐私和伦理的担忧。人脸识别技术正面临前所未有的争议。目前,全球50%的国家允许使用面部识别技术,只有3个国家(比利时、卢森堡、摩洛哥)部分禁止该技术,只允许在特定情况下使用。那些领先的科技公司对人脸识别技术的使用也更加谨慎:微软删除了其拥有1000万张人脸的数据库——这是目前最大的数据库。数据库中的人脸是未经当事人许可从网上抓取的。亚马逊宣布暂停警方使用其面部识别工具Rekognition一年,以便“国会有足够的时间制定适当的法规”。IBM宣布放弃其面部识别产品和技术。纽约大都会运输署(MTA)要求苹果公司允许乘客在戴口罩的情况下使用FaceID,以防止新型冠状病毒的传播。过去一年,人脸识别技术面临的争议比以往任何时候都更加汹涌。美国继续大力投资人工智能系统用于军事用途。军方正在越来越多地探索机器学习,尽管这一趋势对现实世界的影响程度尚不清楚。美国总务署和美国国防部联合人工智能中心授予博思艾伦咨询一份为期五年、总额超过8亿美元的订单。单词。在国防层面,有更多与人工智能相关的公司正在获得利润丰厚的政府合同和风险投资。戴尔的Pivotal软件公司获得了美国国防部1.21亿美元的合同,一些从事无人机、高分辨率卫星地图、信息管理等的公司获得了大量风险投资,如Anduril、Rebellion、Skydio.美国国防部高级研究计划局(DARPA)组织了一场虚拟空战竞赛。一组人工智能系统相互竞争。最终获胜者,由HeronSystems开发的顶级AI,以5:0的比分击败了人类飞行员。.从AlphaGo、AlphaStar到AlphaDogfight,借助深度强化学习技术,人工智能正在更多领域击败人类顶尖选手。这也充分说明,在游戏作战环境中锻炼出来的制胜法宝,是可以快速转移到军事环境中的。战败飞行员说:“作为战斗机飞行员,我们惯用的标准操作方法已经行不通了。”美国国防部长马克·T·埃斯珀表示,这些在模拟作战环境中训练的算法将在2024年应用于实战,包括全尺寸战术飞机。机器学习将对世界战争的未来产生结构性影响,他指出:“那些率先利用最新迭代技术的人,往往在未来战场上拥有决定性优势。”两大AI高层将采用新的道德准则NeurIPS和ICLR都提出了新的道德规范,但没有强制要求代码和数据共享。以人工智能领域的顶级会议NeurIPS为例:NeurIPS将创建一个专门的子团队,由机器学习和伦理学交叉领域的专家组成。NeurIPS现在要求论文作者提交关于“这项工作可能产生的更广泛影响,包括伦理方面和未来社会影响”的报告。鉴于Facebook和谷歌等公司在NeurIPS中的影响力越来越大,“作者必须明确披露资金来源和竞争利益。”NeurIPS“强烈鼓励”共享数据和模型,但并不强制要求。在这方面,机器学习领域落后于生命科学领域。例如,在《自然》杂志上发表论文的条件之一是作者必须“及时向读者提供材料、数据、代码和相关协议”。华为在智能手机领域的主导地位增强,并在机器学习技术上投入巨资。这是九年来苹果和三星以外的公司首次占据市场领导地位。制裁,华为面临芯片供应困境。使用美国芯片制造设备的外国公司必须获得美国政府许可才能向华为供应某些芯片。华为消费者业务CEO余承东在2020中国信息化100人峰会上表示:“我们手机业务现在非常困难,芯片供应困难,缺货。”华为的麒麟AI芯片由受美国制裁政策影响的台积电代工,台积电最后一次接受订单是在2020年5月15日。目前,华为正试图寻求中芯国际在芯片制造方面的支持。但台积电在研发支出和半导体制造方面仍然占据行业主导地位。台积电的研发费用与中芯国际的营收不相上下,前者是目前唯一拥有商用5nm制程(N5)的厂商,目前正在研发功率效率比7nm高2倍、性能比7nm更好的3nm制程。纳米高出33%。不久前,中芯国际还表示,将在2020年将资本支出增加至67亿美元(高于原定目标31亿美元)。展望未来:8大趋势在最后一部分,剑桥2020年AI景观报告提出了未来12个月的8大趋势预测。1.构建更大语言模型的竞赛将继续,我们将见证第一个10万亿参数级模型的诞生。2、attention-based神经网络将从NLP领域迁移到CV领域,实现新的SOTA。3、随着母公司战略的调整,某大企业的AI实验室即将关闭。4.为响应美国国防部的活动和美国军事人工智能初创公司的融资,一些中国和欧洲的国防人工智能公司将在未来12个月内筹集超过1亿美元的资金。5.顶级AI药物发现初创公司(如Recursion、Exscientia)要么进行IPO,要么以超过10亿美元的价格被收购。6.DeepMind将在结构生物学和药物发现方面取得重大突破。7.Facebook将利用3D计算机视觉技术在AR和VR方面取得重大突破。8.NVIDIA最终不会完成对Arm的收购。
