当前位置: 首页 > 科技赋能

NVIDIA CEO黄仁勋:“我们打造了一款面向生成式AI时代的处理器”

时间:2024-05-19 16:58:31 科技赋能

在迄今为止最大规模的GTC大会上,NVIDIA创始人和CEO黄仁勋带来了NVIDIA Blackwell、NIM微服务、Omniverse Cloud API等发布。

生成式人工智能有望彻底改变它所涉及的每个行业——掌握技术是应对挑战的关键。

NVIDIA 创始人和首席执行官黄仁勋发布了新的 Blackwell 计算平台,并概述了计算能力的改进可以为软件、服务、机器人、医疗技术等带来的重大进步。

黄仁勋在硅谷巨型 SAP 中心舞台上发表主题演讲时对观众表示:“加速计算已达到临界点,通用计算已失去动力。

” GTC 聚集了超过 11,000 名与会者和数万名在线观众。

“我们需要一种全新的计算方式——这样我们才能不断扩展,不断降低计算成本,在保证可持续性的同时继续做越来越多的计算。

与通用计算相比,加速计算使得每个行业可以显着加速。

”黄仁勋站在网球场大小的 40 英尺高 8K 屏幕前,向挤满首席执行官、开发人员、人工智能爱好者和企业家的人群发表讲话。

为了推动全球AI基础设施大规模升级的目标,黄仁勋发布了NVIDIA Blackwell平台,该平台具有实时生成万亿参数大型语言模型的能力。

黄仁勋推出了 NVIDIA 推理微服务,NVIDIA NIM。

这是一种打包和交付软件的新方式,可将开发人员与数亿个 GPU 连接起来,以部署各种定制的 AI。

黄仁勋还推出了 Omniverse Cloud API,它提供先进的模拟功能,将人工智能带入物理世界。

演讲最后,黄仁勋进行了精彩的演示,讲解了与一些大企业的合作生态,还详细介绍了二十多个版本来说明他的愿景,为GTC的重大发布画上了圆满的句号。

GTC会议已举办15届。

它最初是在当地的酒店宴会厅举行,现在已经发展成为世界上最重要的人工智能会议。

本次大会是近五年来首次以线下形式恢复举行。

今年的会议包括多个会议,其中包括由黄仁勋主持的 Transformer 专家小组,其中将与八位首批开发该技术的先驱进行对话。

此外,还有10余场演示和20余场技术研讨会。

GTC是几乎涵盖所有领域的人工智能盛会。

在开场致辞中,全球领先的AI艺术家Refik Anadol进行了惊艳表演,展示了一个巨大的实时AI数据雕塑,屏幕上绿、蓝、黄、红波浪般的漩涡,翻滚、交织、散落。

黄仁勋在演讲开始时解释说,多模式人工智能的兴起——处理由不同模型处理的不同数据类型的能力——赋予人工智能更大的适应性和能力。

通过添加参数,这些模型可以处理更复杂的分析任务。

但这也意味着对计算能力的需求显着增加。

随着这些协作式多模式系统变得更加复杂(具有数万亿个参数),对先进计算基础设施的需求也在增加。

“我们需要一个更大的模型,”黄仁勋说。

“我们将使用多模式数据来训练它,而不仅仅是互联网上的文本。

我们会用文字和图像、图形和图表来训练它,就像我们从电视中学习一样,它也需要从海量视频中学习。

新一代加速计算黄仁勋表示:“我们需要更大的GPU。

”Blackwell平台就是为了应对这一挑战而构建的。

他从口袋里拿出一块Blackwell芯片,把它举到看起来更小的Hopper芯片旁边。

新架构以加州大学伯克利分校数学家 David Harold Blackwell 命名,他专门研究博弈论和统计学,是第一位当选美国国家科学院院士的黑人学者,新架构超越了 NVIDIA 推出的 Hopper 架构。

两年前,Blackwell 的 FP8 在单芯片训练方面的性能是其上一代架构的 2.5 倍,其 FP4 在推理方面的性能是其上一代架构的五倍,它采用第五代 NVLink 互连,速度是其上一代架构的两倍。

NVIDIA GBGrace Blackwell 超级芯片可扩展至 Hopper,通过 GB/s 超低功耗 NVLink 芯片间互连将两个 Blackwell NVIDIA BTensor Core GPU 连接到 NVIDIA Grace CPU。

黄仁勋举起装有该系统的电路板说道:“这台计算机是同类计算机中第一台能够在如此小的空间内容纳如此多的计算。

由于它的内存是连贯的,感觉就像一个幸福的家庭在构建一个应用程序“为了获得最大的 AI 性能,基于 GB 的系统可以与今天发布的 NVIDIA Quantum-X InfiniBand 和 Spectrum-X 以太网平台连接,这些平台的速度高达 Gb/s。

先进的网络。

“通过这种方式,我们可以节省大量的能源、网络带宽和时间。

”黄仁勋表示,“未来将是生成式的,这就是为什么这是一个全新的行业。

我们的计算方法根本不同,因此 NVIDIA 在生成式 AI 时代创造了一种新的处理器。

”为了扩大 Blackwell 的规模,NVIDIA构建了一个名为 NVLink Switch 的新芯片。

每个芯片可以以每秒 1.8 TB 的速度连接四个 NVLink,通过减少网络内流量来消除流量拥塞。

NVIDIA Switch和GB就是黄仁勋所说的“一个巨型GPU”,是NVIDIA GBNVL72的关键组件。

NVIDIA GBNVL72是一款多节点、液冷、机架级系统,利用Blackwell为万亿参数模型提供强大的计算能力,在单机架中实现petaflops的AI训练性能和1.4 exaflops的AI推理性能。

该机器包含 零件,重量为 3 磅。

黄仁勋在介绍这台机器时表示:“目前,地球上可能只有三台 exaflop 机器。

而这是一个单机架中的 1 exaflop 人工智能系统。

”此外,NVIDIA还推出了新一代更强大的AI超级计算机——搭载NVIDIA GBGrace Blackwell超级芯片的NVIDIA DGX SuperPOD,可用于处理万亿参数模型并持续正常运行,实现极大规模的生成式AI训练和推理工作负载。

全新 DGX SuperPOD 采用新型高效液冷机架规模架构,采用 NVIDIA DG GB 系统构建,可提供 11.5 exaflops 的 AI 超级计算能力和 FP4 精度的 TB 级快速内存,并且可通过额外的机架进行扩展。

黄仁勋表示:“未来,数据中心将成为人工智能工厂。

” “人工智能工厂的使命是创造收入,同时创造智能。

布莱克威尔受到了各界的欢迎,并得到了多个行业领袖的支持,其中包括Alphabet和谷歌首席执行官桑达尔·皮查伊(Sundar Pichai)、亚马逊首席执行官安迪·贾西(Andy Jassy)、戴尔首席执行官迈克尔·戴尔(Michael Dell)、谷歌首席执行官深心。

执行官 Demis Hassabis、Meta 首席执行官马克·扎克伯格、微软首席执行官萨蒂亚·纳德拉、OpenAI 首席执行官萨姆·奥尔特曼、甲骨文董事长拉里·埃里森以及特斯拉和 xAI 首席执行官埃隆·马斯克。

Blackwell 正在被全球主要云服务提供商、领先的人工智能公司、系统和服务器供应商以及世界各地的区域云服务提供商和电信公司采用。

“整个行业都在为布莱克威尔做准备,”黄仁勋说。

黄仁勋表示,生成式人工智能改变了应用程序的编写方式。

他解释说,未来的公司将专注于组装人工智能模型、为其分配任务、提供工作产品示例以及审查计划和中间结果,而不是编写软件。

NVIDIA NIM 包基于 NVIDIA 的加速计算库和生成式 AI 模型构建。

“未来我们将如何构建软件?你不太可能从头开始编写它,或者编写一堆Python代码或类似的东西,”黄仁勋说。

“你很可能只会组建一个人工智能团队。

”这些微服务支持行业标准 API,易于连接,适用于 NVIDIA 庞大的 CUDA 安装基础,针对新 GPU 进行了重新优化,并持续扫描安全漏洞和威胁。

黄仁勋表示,客户可以使用现成的NIM微服务,或者NVIDIA可以为他们构建专属的AI和AI助手,为特定公司所需的模型专业知识提供专门培训,帮助您创建有价值的新服务。

“企业IT行业正坐拥一座‘金矿’,”黄仁勋说。

“他们拥有多年来创造的所有这些令人惊叹的工具(和数据)。

如果他们能把这个‘金矿’变成一个人工智能助手,可以为用户提供更多的可能性。

”领先的科技公司已经开始采取行动。

黄仁勋 详细介绍了 NVIDIA 如何帮助 Cohesity、NetApp、SAP、ServiceNow 和 Snowflake 构建 AI 助手和虚拟助手。

各行各业也纷纷加入这一行列。

在电信领域,黄仁勋宣布推出 NVIDIA 6G 研究云,这是一个由 AI 和 Omniverse 提供支持的生成平台,旨在推动下一个通信时代。

它使用 NVIDIA 的 Sionna 神经无线电框架、NVIDIA Aerial CUDA 加速无线电接入网络和 NVIDIA Aerial Omniverse Digital Twin for 6G 构建。

在半导体设计和制造领域,黄仁勋宣布NVIDIA正在与台积电和新思科技合作,将其突破性的计算光刻平台cuLitho投入生产。

该平台将把半导体制造中计算最密集的工作负载加速 40-60 倍。

黄仁勋还宣布了 NVIDIA 地球气候数字孪生。

该云平台现已推出,可实现交互式高分辨率模拟,以加速气候和天气预报。

黄仁勋表示,AI最大的影响将在医疗领域,英伟达已经涉足成像系统、基因测序仪器,并与领先的手术机器人公司合作。

NVIDIA 正在推出一款新的生物学软件。

NVIDIA 今天宣布了超过两打新的微服务,使全球医疗保健企业能够在任何地点、任何云上利用生成式 AI 的最新进展。

这些微服务提供先进的成像、自然语言和语音识别,以及数字生物学生成、预测和模拟功能。

黄仁勋表示,Omniverse 将人工智能带入现实世界人工智能的下一波浪潮将是人工智能从现实世界中学习。

黄仁勋表示:“我们需要一个模拟引擎,将世界数字化地呈现给机器人,让机器人拥有一个学习如何成为机器人的‘健身房’。

我们把这个虚拟世界称为Omniverse。

”因此,NVIDIA宣布将利用现已推出的NVIDIA Omniverse Cloud API,将全球领先的工业数字孪生应用和工作流程创建平台的触角扩展到整个软件制造商生态系统。

借助五个新的 Omniverse Cloud 应用程序编程接口 (API),开发人员可以轻松地将 Omniverse 的核心技术直接集成到现有的数字孪生设计和自动化软件应用程序中,或者集成到用于测试和验证机器人或自主系统的应用程序中。

用于驾驶汽车等自主机器的模拟工作流程。

为了展示其工作原理,黄仁勋分享了一个机器人仓库的演示,该仓库使用多摄像头传感和跟踪来监视工人并协调能够在整个机器人堆栈运行时自行驾驶的机器人叉车。

黄仁勋还宣布 NVIDIA 将把 Omniverse 引入 Apple Vision Pro。

通过新的 Omniverse Cloud API,开发人员可以将交互式工业数字双胞胎传输到 VR 耳机。

全球一些最大的工业软件制造商正在采用 Omniverse Cloud API,包括 Ansys、Cadence、达索系统的 3DEXCITE 品牌、Hexagon、微软、罗克韦尔自动化、西门子和 Trimble。

机器人领域黄仁勋表示:“一切会移动的东西都可能成为机器人,而汽车行业将是其中的重要组成部分。

NVIDIA的计算平台已经应用于客车、卡车、送货机器人和自动驾驶出租车。

”黄仁勋宣布,全球最大的自动驾驶汽车公司比亚迪已为其自动驾驶汽车选择了 NVIDIA 的下一代计算平台,以在 DRIVE Thor 上构建下一代电动汽车车队。

为了帮助机器人更好地感知环境,黄仁勋还发布了 Isaac Perceptor 软件开发套件,该套件具有最先进的多摄像头视觉里程计、3D 重建和占用映射以及深度感知功能。

为了使机械臂更具适应性,NVIDIA 宣布推出 Isaac Manipulator - 一个先进的机械臂传感、路径规划和运动学控制库。

最后,黄仁勋宣布了 GR00T 项目,这是一个用于人形机器人的通用基础模型,旨在进一步推进 NVIDIA 在机器人技术和实体智能方面的突破性工作。

为了支持这一努力,黄仁勋推出了 Jetson Thor,这是一款基于 NVIDIA Thor 片上系统的新型人形机器人计算机,也是对 NVIDIA Isaac 机器人平台的重大升级。

在演讲接近尾声时,黄仁勋展示了迪士尼研究院的一对由 NVIDIA 驱动的小型机器人。

黄仁勋表示:“计算机图形学、物理和人工智能是英伟达的灵魂,在生成式人工智能时代,一切改变都有可能。