当前位置: 首页 > 科技观察

服务器到底有多快?当Power牵手NVLink

时间:2023-03-19 13:17:59 科技观察

【.com原稿】你在A楼,我在B楼,相距10公里,只有一条繁华的双车道。路上人头攒动,平时上班时间路上车辆成山,通行效率可想而知。如果中间有一条双向8车道的马路,再加上单独的自行车道,无论是运送大件家具还是小文件,都可以高效地跑过这些“快车道”,互不影响。如果高速公路开始堵车,我们两层楼之间的数据“传输”,可以通过快递的方式,用电动车来传递,与机动车互不影响。这就是多通道直连的优势。今天的服务器总线设计也是如此,基于NVLink的IBMPowerSystemS822LC可以拥有比PCIE总线产品高5倍的带宽。NVLink——给你多条点对点直连高速通道NVLink是一种全新的高速节点内互连技术,可以看作是PCIE的“升级版”。简单来说,这是一种快速互连机制,可以实现GPU-GPU和GPU-CPU之间的高速大带宽直接通信。NVLink基于点对点传输。编程方式与PCIE总线相同。作为基本传输单元出现的“块”(block)包含八个通道,每个通道为20Gbps,每个块的总带宽为20GB/s。这个带宽值有了很大的提升。超越PCIE3.0的水平。不仅如此,多个块还可以组合起来提供更高的带宽或连接更多的设备。NVLink拥有广泛的受众。它不仅可以根据不同的需要完成GPU-GPU节点内部的高速互联,还可以形成GPU-CPU甚至CPU-CPU之间的高速互联。它可以像PCIE或QPI。所有多GPU并行工作的场合,无论是价值数亿美元的Tesla超级计算机集群还是桌面SLI,都将受益于更高的并行通信带宽。此外,它还可以作为其他基于NVIDIAGPU+第三方CPU的异构并行计算架构中的互联方案。IBMPowerSystemS822LC允许Power8处理器通过NVLink连接到NVIDIATeslaP100GPU,以实现超高性能。IBMPowerSystemS822LC具有两个IBMPOWER8CPU,通过NVLink高速接口连接到四个NVIDIATeslaP100GPU。这个专门构建的GPU加速器服务器通过NVLink传递主板上的所有指令,并使用TeslaP100SXM2GPU。IBMPowerSystemS822LC打通数据处理“高速公路”。数据中心的工作负载在不断变化,对数据中心加速的需求也在不断增加。不久前,这些系统主要用于处理存储和服务网页,但现在它们越来越多地负责人工智能领域的工作,例如理解语音、文本、图片和视频或分析大数据以提供见解.数十亿消费者希望立即得到许多问题的答案,企业需要分析爆炸式增长的数据,以更好地满足客户需求。这些问题将由数据中心来解决。测试数据显示,IBM与NVIDIA技术如此紧密结合,使得数据流动速度比使用PCIE快5倍,从而加快为高级分析、深度学习和人工智能等极其重要的应用提供洞察力的速度。IBM几年前就注意到了这一趋势,并与NVIDIA合作加速新的数据中心工作负载。经过四年的研发,备受瞩目的POWER8服务器结合了NVIDIA的TeslaP100GPU和NVLink互联技术,实现了更高的数据性能分析和深度学习能力。据IBMPowerLinux售前技术支持工程师张希文介绍:面向大数据的S822LC,CPU、内存带宽、IO性能更加均衡。它有512GB内存,12xSATA/SAS磁盘,支持VNMe。基本上在各种数据处理场景下都没有短板。特别是Power的SMT8多线程、高内存带宽、高三级缓存、独特的四级缓存,为数据处理带来了Power服务器独有的优势。经实际测试,MongoDB在S822LCforBigData上相较于IntelXeonE5-2690v4Broadwell,性价比提升2倍。单从处理器的角度提升性能是非常困难的,但是单单NVLink的技术就为IBMPowerSystemS822LC服务器带来了位宽的双倍提升,这也是它的魅力所在。这一改进为大数据、高性能计算等相关应用带来了新的活力,高位宽时代已经到来!【原创稿件、合作站点,请注明原作者和出处为.com】