当前位置: 首页 > 科技赋能

NVIDIA沉巍!投入深度学习三年,GPU性能提升65倍

时间:2024-05-22 13:40:46 科技赋能

文章|编辑来源 | 4月,人工智能第三次浪潮风起云涌,行业风起云涌。

在“GTIC全球(智能)科技峰会”感受时代脉搏,预见未来。

3月10日,由智喜喜、AWE、集果等联合主办的“GTIC全球(智能)科技峰会”在上海证大喜玛拉雅中心正式开幕。

学术界、投资界、创业界、产业链在此展开激烈角逐,包括英伟达、Neato Robotics、科大讯飞、商汤科技、科沃斯机器人、纳恩博机器人、威马汽车、奇点汽车、宇视科技、歌尔股份、地平线机器人等近40家大咖云集轮流上台。

作为上半年人工智能领域的最高级别峰会,GTIC聚焦“机器人产业”、“汽车新势力”、“家庭物联网生活”等领域,探索掘金机会、消费技术变革下的升级和生态建设,带来前沿的实践经验和判断。

在上午的演讲环节,NVIDIA全球副总裁兼中国企业事业部总经理李深伟发表了主题为“人工智能深度学习——一种新的计算模型”的演讲,详细介绍了NVIDIA对人工智能浪潮的利用。

成为行业先锋的过程和思路。

以下为演讲要点: 1、CUDA架构的诞生是深度学习的关键节点。

NVIDIA CUDA架构之前的GPU对于深度学习计算能力并没有强大的支持。

CUDA架构诞生后,普通学者和程序员可以更轻松地使用GPU进行高性能计算。

2016年,在图像识别数据库ImageNet竞赛中首次使用深度学习和NVIDIA GPU,将ImageNet的识别率提高到85%。

自此,深度学习与GPU的合作正式启动。

2017 年,NVIDIA 和 Ng Enda 合作探索 GPU 如何加速深度学习。

截至目前,百度的语音识别率已经超过人类。

,ImageNet识别率达到96%,超越人类。

2、无论是工业设计、制造、设计,还是我们都熟悉的电影制作,NVIDIA都是这个行业的标准。

并且在2006年NVIDIA进入高性能预算后,70%的人已经使用NVIDIA产品作为高性能计算产品。

而这也是大家最关心的。

在这波AI浪潮中,我们现在看到基本上人工智能领域的研究有8%都是在NVIDIA支持的平台上进行的。

针对人工智能和深度学习,NVIDIA还发布了软件开发平台SDK,这是Kikuda用于家庭学习的家庭库。

目前,它在全球的下载量已超过20万次。

3、GPU已成为高性能计算的最佳平台。

CUDA已经拥有30万名开发者,占据了高性能计算应用的绝大多数。

在解决方案方面,NVIDIA提供了业界最好的计算平台Tesla P40。

对于大学科研、初创公司、研究所等缺乏大数据中心的客户来说,老牌超级计算机DGX-1是一个不错的选择。

它集成了最先进的GPU,并集成和优化了我们熟悉的深度学习平台。

DGX-1不仅在国外很常见。

虽然它的整个算力只是一个小机器,但它的整个算力就像是放在一个机箱里的服务器一样。

你不需要一个大型的数据中心,拥有一个相当于服务器计算能力的设备来进行AI和深度学习的研究。

4.这一切都是从年底开始的。

NVIDIA注意到深度学习的浪潮后,我们进行了大量投资。

短短3年时间,GPU硬件已经发展了三代,整体性能提升了65倍。

这是NVIDIA对深度学习和AI行业的承诺。

以下为沉巍在“GTIC全球(智能)技术峰会”上的演讲全文: 今天我特别荣幸地向大家汇报NVIDIA近年来在高性能预算以及深度学习和人工智能各方面的历程。

请允许我花几分钟时间向您介绍 NVIDIA。

NVIDIA成立于2008年,我们在2008年发明了GPU。

我们是世界上最大的GPU公司。

大家都知道 NVIDIA。

在进入深度学习之前,NVIDIA 是全球最大的游戏计算平台提供商。

目前已有超过 1 亿用户在使用 NVIDIA 游戏计算平台。

NVIDIA也是专业图形工作监视器和显示计算平台的提供商,也是这个行业的标准。

我们现在看到,无论是工业设计中的制造和设计,还是我们都熟悉的电影制作,英伟达都是这个行业的标准。

并且在2006年NVIDIA进入高性能预算后,70%的人已经使用NVIDIA产品作为高性能计算产品。

而这也是大家最关心的。

在这波AI浪潮中,我们现在看到基本上人工智能领域的AI研究有8%是在NVIDIA支持的平台上开发的。

NVIDIA还发布了人工智能和深度学习的软件开发平台SDK,这是Kikuda家族学习的家族库。

目前,它在全球的下载量已超过20万次。

这一切从哪里开始?今年是人工智能元年,或者说深度学习爆发年。

在我们中国领军人物李飞飞在斯坦福大学主办的一场比赛中,有一个学生第一次使用了深度学习的方法,并且在Nvidia的GPU的参与下,他不仅一举夺得了这次比赛的第一名。

同时,本次竞赛也由计算机视觉算法竞赛转变为计算机视觉算法竞赛。

此前最高识别率仅为74%。

2016年使用深度学习和NVIDIA的GPU后,不仅获得了第一名,而且还获得了第一名。

并且整个识别率提高到85%。

从那时起,深度学习和 GPU 的世界就展开了。

自2016年比赛以来,深度学习方法就一发不可收拾。

2019年,NVIDIA很荣幸与我们(现为百度首席科学家)合作,发布了一份关于如何通过GPU的高性能预算能力加速深度学习发展的报告。

同时,从2010年到现在,比赛比例从2016年提升到85%后,就没有算法参与后续比赛了。

到2019年,深度学习的整体识别率超过96%。

这个深度学习识别率已经超过了人类图像识别率。

当然,更不用说2016年,百度在深度学习,尤其是深度语音识别方面的突破,已经超越了人类语音识别的识别能力。

而且,去年AlphaGo在围棋上的进步使用了大量海量深度学习CPU,这在过去是完全不可能实现的。

说起这个地方,大家可能会有很大的疑问。

这件事是突然发生的,还是有更深层次的背景?请允许我向大家汇报一下历史沿革。

说到Nvidia从2016年发明GPU到刚刚学习GPU的进展,就不得不说一下我们在2006年的重要突破,这也是我们在2006年第一次发布像Kuda这样的架构。

在2006年之前,90%的图像图形GPU的操作是针对图像操作的。

它是非常封闭的,是为游戏开发者和开发者提供的。

对于一般科研人员,或者是有高性能预算要求的学者和研究人员来说,这是一件非常困难的事情。

2006 年之前,每个人都很难使用 GPU。

印象中,前段时间听国内科研专家说,为了获得更好的计算资源,他们收集了很多游戏卡,与现有的X86服务器进行比较,目的就是探讨如何更好地利用计算资源。

GPU 的能力。

为此,大型运维公司也看到了这个趋势,所以在2006年我们发布了Kuda这样的架构。

第一次拥有这个架构后,普通科研人员可以使用普通的JAVA加语言来使用GPU的计算能力。

也就是说,从2006年开始,NVIDIA正式进入高级预算能力,也就是说,从那时起,全球大部分科研和高性能计算机中心都部署了NVIDIA设备进行计算和高性能预算。

但这里有几个重大突破,就不一一提及了。

其中之一就是给大家汇报一下,2018年的比赛让大家对GPU的使用有了更深入的了解。

到了这一年,AlphaGo也有了实际案例,GPU的应用达到了另一个层次。

作为一个26年前就涉足高性能计算的人来说,GPU成为了最好的选择。

高性能计算方面已经有超过100个应用,基本上大家的人工智能深度学习有%是GPU加速的。

在这里,我想借此机会向大家介绍一下,除了最近关于NVIDIA在高性能预算和人工智能方面的旅程的报告之外,我们还提供了什么样的解决方案。

我们还在深度学习方面投入了大量资金,特别是在企业数据中心提供解决方案。

无论线下学习,我们都有强大的技术支持。

我们还提供离线部署和推理。

解决方案。

比如我们的P40目前被大多数数据中心广泛使用,作为深度学习的最佳平台。

目前我认为它是深度学习最好的平台。

另外,去年我们还发布了数据中心在线部署或者推理的产品,非常适合。

离线训练后,需要应用。

如何快速将虚拟结果与实际业务结合起来?总之,它包括大量的视频边界和实时分析。

这是我们去年刚刚发布的,非常适合作为在线推理和应用的产品。

当然你会问,我们没有这么大的数据中心,我是研究单位,目前是一家初创公司。

我想发展人工智能和深度学习。

我还有机会使用 NVIDIA 解决方案吗?答案是肯定的。

我们还针对大学科学研究以及初创公司和研究机构。

去年我们发布了一款名为DGX-1的原型超级计算机,它集成了最先进的GPU和我们熟悉的深度学习平台并对其进行了优化。

DGX-1不仅在国外很常见。

这就像将服务器的计算能力放在一个机箱中。

你不需要大型数据中心,就可以拥有服务器计算能力的设备来从事人工智能和深度学习研究。

当然你会问,我们没有这么大的数据中心,我是研究单位,目前是一家初创公司。

我想发展人工智能和深度学习。

我还有机会使用 NVIDIA 解决方案吗?答案是肯定的。

我们还针对大学科学研究以及初创公司和研究机构。

去年我们发布了一款名为DGX-1的原型超级计算机,它集成了最先进的GPU和我们熟悉的深度学习平台并对其进行了优化。

DGX-1不仅在国外很常见。

虽然它只是一个小机器,但它的整个计算能力就像放置在单个机箱中的服务器一样。

你不需要一个大型的数据中心,就可以有一个相当于服务器计算能力的设备来进行AI和深度学习的研究。

这一切都始于年底。

NVIDIA注意到深度学习的浪潮后,我们进行了大量投资。

短短3年时间,我们在GPU硬件上的投入已经发展了三代,整体性能提升了65倍。

,这是英伟达对深度学习和AI行业的承诺。

此外,在深度学习和AI方面,NVIDIA的贡献不仅仅是GPU方面的硬件,还包括整个生态系统。

更重要的是,如何把深度学习带给AI从业者,我们甚至有更好的开发环境。

因此,NVIDIA在SDK上,也就是在软件部分上,进行了非常大的投入。

比如对于学习部分,NVIDIA做了一个CuDNN加速器。

针对大家熟悉的开发,我们做了很多优化,让这些AI和深度学习开发者可以方便的使用这些加速库,并且能够更好的进行性能的提升。

该部分的全球下载量已超过 200,000 次。

NVIDIA还在在线部署和推理方面投入了大量资金。

当您将深度学习训练的结果部署到新一代 NVIDIA 技术时,您可以更快、更高效地进行部署和推理。

该SDK包括目前部署的很多与视频、图像相关的应用,专门针对深度学习在部署和应用方面的开发。

我们可以同时处理边界码和视频更新。

接下来我们讲一下我们针对NVIDIA的解决方案的一些案例。

我不会谈论谷歌的部分。

目前可能有5000多个申请,这个就不多说了。

在这个地区,百度是我们非常典型的客户。

我们非常感谢百度首席科学家的支持。

我们投入了很多。

无论是在人脸和物体识别方面,还是在自动驾驶方面,我们都使用非常多的GPU应用。

另外,中国的一个大客户是阿里巴巴,它也使用了深度学习。

有一个非常好的应用。

有一个应用程序。

我拿出手机,再次拍了一张照片。

我可以进入阿里巴巴环境,看看这条领带在哪些商家。

更不用说双十一期间这么多海量的客户需求,我们如何处理客户服务。

这方面的应用有很多,都是深度学习人工智能方法的体现。

最后一个给大家分享的应用就是最近大家比较关注的智慧城市。

大家可以注意到,2018年全球的摄像头数量超过了10亿个。

摄像头部署之后,产生了如此多的海量数据,特别是如何处理图像数据,随着人工智能和深度学习的发展,正如刚才报道的那样专家们表示,无论是通过对NVIDIA平台的学习,还是在线实时编码处理和分析,相信NVIDIA能够为智慧城市的应用以及深度学习的应用提供更好的解决方案。

由于时间有限,我在这里向大家介绍一下NVIDIA的解决方案、NVIDIA的整个转型以及应用场景。

我相信这只是我们公司在人工智能和深度学习方面工作的开始。

我相信,在今天所有专家的共同努力下,AI和人工智能将会变得更好。

我们NVIDIA很高兴能够提供这样一个平台,与您一起推动人工智能的发展。