当前位置: 首页 > 科技观察

认识HBM与HMC:两种提升性能的服务器内存类型

时间:2023-03-22 14:15:06 科技观察

数据中心硬件购买者可以评估两种新兴的服务器内存类型,以构建未来的高性能系统。高带宽内存(HBM)是一种高性能接口,用于支持远超传统内存形式的内存设备的数据吞吐量。HybridMemoryCube(HMC)技术带来的性能远超传统的高带宽内存设计,例如双倍数据速率三代和四代(DDR3和DDR4),但这两种方法采用不同的技术,它们对服务器内存性能的提升是也不同。未来高带宽内存的服务器HBM有一个很直接的想法:让内存设备靠近CPU或者GPU。当前的计算机设计通常通过在主板上的插槽中安装内存模块来将内存与计算芯片隔离开来。这种类型的服务器内存受时钟速率限制,阻止了每个时钟周期可以传输的数据量。HBM方法将内存芯片堆叠成矩阵,然后将处理器与内存堆栈组合在一起形成一个基本组件,然后将其安装在服务器主板上。HBM堆栈并未与CPU和GPU物理集成,而是使用载板。不过AMD等相关配套半导体厂商表示,HBM方案与在处理器上集成内存的方案并无太大区别。那么,HBM有哪些优势呢?HBM模块可以以极低的频率和更少的能耗提供远超传统内存的带宽。例如,根据AMD的研究,典型的图形DDR5封装使用32位总线,最大带宽为每秒28GB,频率为1,750MHz,电压为1.5伏。一个HBM封装使用1024位总线,只需要500MHz,1.3V电压,就可以达到100GB以上的带宽。此外,HBM提供了支持带有CPU或集成GPU的服务器的多功能性。在未来的服务器中,HBM可能会同时服务于CPU和GPU。混合内存立方体将如何影响未来的服务器?传统的服务器内存类型,如DIMM,使用服务器主板上的并行接口连接到单独的芯片。相比之下,混合内存立方体通过将内存芯片堆叠成垂直组件来创建具有串行内存访问的3-D阵列。这些阵列添加了一层逻辑来管理内存,服务器制造商可以将此组件放置在靠近每个处理器的位置。这种近内存或短距离设计更常见,并且可以提供比标榜低功耗的长距离内存架构更高的性能。HybridStorageCube最多可连接8个包。据推动该标准的供应商组织HMC联盟称,HMC可以提供比DDR3内存设备高15倍的带宽,功耗降低70%,物理尺寸缩小90%。例如,Micron的2GB和4GBHMC产品技术声称带宽高达120GB和160GB。HMC产品现已上市,英特尔至强融核图形协处理器采用HMC技术,与GDDR5内存设备相比,内存吞吐量可提升约50%。HMC与HBM竞争,这两种技术是不兼容的。