当前位置: 首页 > 科技赋能

当数据中心成为新的计算单元时,NVIDIA为开发者提供了指导

时间:2024-05-19 16:10:27 科技赋能

NVIDIA是今年生成式AI前沿最热门的公司,因为它拥有一流的GPU和CUDA生态系统。

但事实上,英伟达进入万亿美元俱乐部依靠的是AI,远不是GPU+CUDA,而是“三核+两层含义”——三层核心是CPU、GPU和DPU,第二层含义指的是DOCA+CUDA。

2016年CUDA生态系统首次推出时,没有人预料到市场会如此之大。

2016年Alexnet大赛之后,市场就来到了这一步。

NVIDIA全球副总裁及中国企业营销负责人刘念宁表示,“创造这个市场的其实是我们的用户和应用场景,从用户那里看到如何应用之后,我们就有了NVIDIA的发展路线图。

”现在,当大模型已经成为新一代技术的基础时。

过去很多基于计算机的计算将让位于基于数据中心的计算。

从客户和用户的角度来看,NVIDIA看到了一个新的趋势——“过去CUDA无处不在。

现在,如果要加速虚拟化、网络、存储和数据处理、交换、协作加速,DOCA和BlueField DPU将是未来无处不在。

”不在这里”。

为什么这么说呢?英伟达中国高级工程与解决方案经理总监·赖俊杰指出,人工智能是一项数据中心规模的计算任务。

数据中心中有很多不同的组件,包括“三个CPU、GPU、DPU的核心”。

因此,要做以大模型为代表的AI,不仅需要买几张GPU卡,还需要有良好的网络互联和良好的编程环境。

为此,NVIDIA提供了基于DPU的开发者指南《数据处理器: DPU 编程入门》,使开发者能够更好地在数据中心运行数据,在不同处理器之间快速移动数据,并尽快释放宝贵的CPU和GPU资源。

NVIDIA编写的书《数据处理器: DPU 编程入门》正式发布,成为NVIDIA全球第一本DPU处理器编程入门书籍,由机械工业出版社出版,本书将为开发者使用NVIDIA BlueField系列DPU和NVIDIADOCA开发环境提供实用指南,帮助开发者。

快速入门并学习如何在DPU上灵活编程。

数据中心成为新的计算单元,网络定义了数据中心。

随着人工智能“iPhone时刻”的到来,每个企业都将采用生成式人工智能,每个行业都将被人工智能改变。

加速计算将成为这一趋势的基础和驱动力。

为了更好地支撑人工智能的发展,数据中心成为新的计算单元,网络定义了数据中心。

NVIDIA定位了不同类型的人工智能数据中心基础设施网络,以满足AI工厂和生成式人工智能云的需求,为大规模人工智能模型所需的海量GPU计算提供高性能、低延迟的网络平台。

数据中心级性能。

在AI工厂和生成式人工智能云两种数据中心设计范式中,均采用DPU(数据处理器)来加速数据中心基础设施。

轻松构建软件定义、硬件加速的数据中心并保证其安全性。

正如NVIDIA创始人兼CEO黄仁勋在发布DPU时所说:“DPU、CPU和GPU将成为未来计算的三大支柱,而数据中心将成为新的计算单元。

”通过将数据中心基础设施操作从 CPU 卸载到 DPU,CPU 和 GPU 计算资源可以专注于应用程序和业务工作负载。

这是数据中心演进的大趋势,也是NVIDIA BlueField系列DPU推出的核心价值。

NVIDIADOCA是专为NVIDIA BlueField?系列DPU量身定制的软件开发环境。

通过创建全面、开放的开发环境,开发者可以快速创建基于DPU加速的高性能应用和服务。

NVIDIADOCA在基于NVIDIA BlueField系列DPU的应用和服务中发挥着关键作用,是释放DPU潜力的关键。

目前,全球DOCA开发者中近一半来自中国。

对于全新的NVIDIA BlueField系列DPU计算平台和NVIDIADOCA软件开发环境,开发者迫切需要一本化繁为简的入门书籍,帮助没有DPU开发经验的人快速掌握DOCA软件开发技能。

帮助有DPU开发经验的从业者更系统地学习DOCA软件开发环境,协助数据中心管理者和开发运营人员更好地在数据中心部署和使用NVIDIA BlueField系列DPU和NVIDIADOCA应用或服务。

为此,NVIDIA聚集了十多位资深系统架构师,花费数月时间编写了这本书,为全球最大的DOCA开发者社区中的中国开发者提供一本官方参考书,让他们能够入门学习DPU和DOCA。

本书亮点及价值:本书定位为NVIDIA BlueField系列DPU和NVIDIADOCA开发环境的入门学习参考书。

内容涵盖了DPU的介绍、技术优势和未来技术发展路径,包括NVIDIA BlueField系列DPU的通用结构和多样化功能。

多样化、应用广泛、场景丰富等方面的前景、NVIDIADOCA软件开发环境配置、以及使用基于NVIDIA BlueField系列DPU的NVIDIADOCA软件开发环境进行程序开发的实际案例。

读者可以通过本书对DPU硬件架构和软件开发有一个全面的了解,学习如何启用NVIDIA BlueField系列DPU并搭建NVIDIADOCA-软件开发环境,并掌握如何实现软件定义,开始自己的硬件开发之旅——加速数据中心基础设施的应用程序或服务。

本书由机械工业出版社出版,目前可通过出版社京东自营官方旗舰店、当当自营官方旗舰店、天猫旗舰店等网络渠道以及各大新华网购买书店。

通过线下渠道购买。

评价与推荐 NVIDIA全球副总裁、中国企业营销负责人刘念宁表示:“在生成式AI时代,DPU是企业构建加速计算平台和AI工厂的关键。

在NVIDIADOCA软件开发环境的支持下,NVIDIA? BlueField系列DPU可以帮助企业构建软件定义、硬件加速的数据中心基础设施,更好地支持大型模型训练的苛刻要求,值得开发者研究和学习。

”NVIDIA中国高级工程和解决方案总监 赖俊杰表示。

:“全球企业正在从通用计算向加速计算和生成式人工智能转型。

DPU作为一种新型处理器类型,满足数据中心基础设施在性能、效率、规模、弹性、安全性和能源效率方面的需求。

软件开发研究人员和数据科学家可以通过本书深入了解NVIDIA BlueField系列DPU和NVIDIADOCA软件开发环境,并利用它们构建云和AI应用所需的数据中心基础设施。

” 百度智能云技术委员会主席王耀:“这是一本由浅入深介绍NVIDIA BlueField系列DPU和NVIDIADOCA软件框架的入门书。

内容涵盖了DPU及其编程开发的方方面面,让读者可以了解到更多官方信息。

通过DOCA开发环境和实际用例,您可以轻松获得构建软件定义、硬件加速的数据中心基础设施应用或服务的基础知识,并逐步掌握编程开发技能。

” UCloud联席CTO王凯:“人工智能正在爆炸。

为了卸载、加速和隔离数据中心基础设施工作负载,本书是使用 NVIDIA BlueField 系列 DPU 和 NVIDIA DOCA的实用指南。

“这是一本非常好的DPU入门书籍,可以让开发者和数据科学家更加接近DPU应用和编程。

” VMware高级总监、中国云平台部总经理宋向军:“本书是全球第一本系统书籍,介绍DPU及其软件开发的书籍,对于普及DPU在现代数据中心的应用具有重要作用。

读者可以深入了解DPU的技术发展、软硬件特点、软硬件安装、开发环境实践、应用用例、生态系统,对于想从事软件的开发者有很好的学习和参考意义。

基于NVIDIA BlueField系列DPU开发。

” EE时代中国高级行业分析师黄业峰:“社会数字化转型浪潮下,有海量的数据需要处理。

DPU的边界、功能、价值还处于早期讨论阶段。

这本书对DPU从硬件到软件、定义到应用实践、技术特点到生态系统进行了概述;是了解DPU自身技术和市场的一个窗口,也是DPU开发实践的一个很好的切入点。