当前位置: 首页 > 科技观察

超融合的下一步是什么?超级融合!

时间:2023-03-21 22:31:25 科技观察

【.com速译】作为一个半个职业生涯都在科技研究领域度过的未来学家,我想尝试对未来做一些预测。为此,我回顾了超融合的历史并分析了几种新兴技术。一、超融合的背景第一代IT基础设施是“孤岛”架构,计算、存储和网络由客户自主选择和购买。客户需要确保所有三种产品协同工作。从2007年开始,第二代融合基础设施(CI)系统出现在市场上,捆绑了现有的服务器、存储和网络产品,并辅以管理软件。这种方法将客户在购买后运行他们的第一个应用程序所需的时间从几个月缩短到几周,因为供应商预先测试并预先集成了所有三种产品。在孤立和融合架构中,存储区域网络(SAN)都用于存储(为了简单起见,我在本文中避免使用NAS)。2012年出现了超融合(HCI)系统——这些是紧密耦合的计算和存储硬件,不需要SAN。与融合基础设施不同,融合基础设施实际上是三个预先测试的产品一起出售,超融合是真正的单一产品,一起管理。HCI系统就像第三代融合。根据451Research第一季度《企业之声》IT买家调查报告,超融合基础设施目前在40%的企业组织中使用;451Research分析师预计这一数字在未来两年内将大幅增加。作为一名将一半职业生涯都花在科技研究领域的未来学家,我想尝试对未来做一些预测。为此,我回顾了超融合的历史并分析了几种新兴技术。先介绍一下历史吧。2.SAN时代——————1994-2012存储区域网络(SAN)是一种允许用户通过数据中心的多台服务器访问共享块存储(如磁盘阵列)的网络。它使用户能够整合整个园区的高吞吐量存储。1994年串行光纤通道(FC)网络标准出现后,SAN开始流行,1997年1Gbps光纤通道问世。直连存储(DAS)在当时是一种替代技术,但它不支持存储共享,导致存储资源利用率低下。SAN提高存储资源利用率,提高可靠性,确保高性能存储共享,并通过使用数据中心所有服务器共享的一组通用存储功能简化存储管理。此外,SAN允许用户独立扩展存储和计算资源,因此他们可以运行具有广泛不同的存储和计算要求的各种工作负载。光纤通道SAN网络的性能不断提高。在2000年代初期,光纤通道SAN的成本和复杂性显着下降,导致在大型企业和SMB环境中得到更广泛的采用和部署。许多新功能很快被引入到共享SAN存储中,这些功能通常是DAS存储所不具备的,例如快照、克隆、压缩、重复数据删除、存储分层和远程复制。后来,iSCSISAN和FCoE(以太网光纤通道)作为光纤通道SAN的替代技术出现。它们允许将以太网用于存储,从而通过消除专用于存储的第二类网络来简化管理。由于这些发展,共享SAN存储变得非常流行,但DAS存储逐渐没落,2012年之前是这样的。3.DAS和超融合时代——————2012-2016+但是,近年来,由于SAN存在以下四大问题,钟摆开始摆回DAS。1、由于越来越快的存储设备(闪存、SSD等)的出现,通过SAN网络访问这些存储设备的网络协议和软件的开销开始占总响应时间的很大一部分.DAS的访问时间只有SAN访问时间的一半到三分之一。2、SAN阵列中的存储设备比DAS存储中的存储设备贵很多,即使使用的存储设备完全一样。3.除了少数例外,SAN存储通常是专有的,不能横向扩展。添加更多存储(超过一定限制)通常需要更复杂的升级过程。4、SAN管理复杂。基于光纤通道标准的SAN需要独特的主机总线适配器(HBA)、独特的交换机、独特的电缆、逻辑单元号(LUN)分区、LUN掩码和新的多路径驱动程序。虽然基于以太网的SAN,例如iSCSISAN,不需要不同类型的存储网络,但它们的管理仍然有点复杂。SAN端的复杂性主要来自虚拟机等应用程序概念与LUN等存储概念之间的脱节,以及计算和存储的单独管理。由于SAN存在这些问题,市场上出现了新的存储软件,称为虚拟SAN或vSAN软件。超融合或HCI系统是紧密耦合的计算和存储节点,因此它不需要公共存储区域网络(SAN),它使用vSAN软件来实现等效功能,并利用现有服务器来满足网络和DAS存储需求。应用服务器上DAS存储和vSAN软件的组合现在比SAN存储更便宜,但提供大致相同的功能。存储功能通过服务器节点中的软件提供,并且可以添加可选功能,例如备份、恢复、复制、重复数据删除和压缩。典型的HCI系统包括:Nutanix、Simplivity、CiscoHyperflex、Gridstore、Pivo??t3和ScaleComputing。与光纤通道SAN相比,HCI系统不需要新的HBA、电缆或交换机。但是,与所有SAN一样,HCI系统确实需要通过网络访问远程存储。当应用程序读取数据时,数据可能存储在本地DAS上,也可能存储在一个或多个远程节点上。在后一种情况下,需要通过网络从一个或多个远程存储设备读取数据。同样,当应用程序写入数据时,本地副本可能会写入本地DAS,但第二个副本必须始终通过网络写入某个其他节点上的远程存储设备。HCI系统试图通过将数据放置在最有可能访问它的服务器上的DAS存储上来提高性能——一种称为数据局部性的技术。HCI系统通过这两种方式简化存储管理:一是提供以应用为中心的存储管理功能(虚拟机快照代替LUN快照),二是提供计算和存储的综合管理。4.存储和SAN协议的新趋势在本章中,让我们来看看存储和SAN协议的三个最新趋势。1.NVMeoverFabrics取代SCSI1986年,小型计算机系统接口(SCSI)成为主机和目标块存储设备或系统之间连接和传输数据的标准,当时硬盘驱动器(HDD)和磁带是主要存储介质。NVMe是一种相对较新的SCSI替代方案,旨在与更快的介质结合使用,例如固态驱动器(SSD)和基于闪存的技术。NVMe提供了简化的寄存器接口和命令集,减少了I/O堆栈的处理器开销。基于NVMe的存储设备有很多好处,包括更低的延迟、增强的并行处理能力和改进的性能。NVMe最初设计用于在计算机的PCIe总线上本地使用。NVMeoverFabrics(NVMeoF)使用户能够使用传统方法的替代方法来扩展NVMe主机设备和NVMe存储设备或子系统的连接距离。NVMeoF旨在使远程存储设备的延迟与本地连接的NVMe存储设备的延迟相差10微秒以内。SAN网络传统上使用基于光纤通道传输的SCSI协议。在2016年6月发布NVMeoF规范之后,未来的SAN将通过传输方法使用NVMeoF协议,例如具有RDMA(iWARP或RoCE)的以太网。Mangstor宣布推出使用NVMeoF的NX系列闪存阵列,支持300万次IOPS和低于100微秒的延迟。Mellanox和Qlogic还在2016年8月的英特尔开发者论坛上展示了NVMeoF解决方案。有了这些新兴的SAN,SAN和DAS之间的性能差异将几乎消失。2.标准x86服务器上具有竞争力的网络存储过去,连接到SAN的共享块存储控制器通常是专有的。它们使用特殊的主板制造,有时甚至使用特殊的ASIC,例如3Par的产品。共享块存储越来越多地使用标准x86服务器制造,这些系统在成本、性能和可扩展性方面与使用专有硬件制造的共享块存储具有竞争力。使用标准硬件制造的共享块存储的几个例子包括:EMCScaleIO、FormationData和Hedvig等,还有许多这样的软件定义存储阵列。3、网络共享存储中出现以应用为中心的存储管理过去,SAN存储提供以LUN为中心的存储管理。Tintri5等网络SAN存储供应商现在提供以应用程序为中心的存储管理。4、总结这三个趋势表明,未来的网络块存储可以:·用标准的服务器硬件制造·有一个简单的以应用为中心的管理中心·使用NVMeoF协议,具有高性能在我看来,这三个趋势将有对未来存储和融合架构的重大影响。5.下一代存储网络时代——————2016————?让我们回过头来分析钟摆从SAN转向DAS和超融合的四个原因。1、DAS访问时间仅为SAN访问时间的一半到三分之一。NVMeoF出现后,这种说法不再成立。2、SAN存储设备比DAS存储设备贵。今天的许多SAN阵列只是在具有标准以太网网络和存储的标准x86服务器上运行的软件。这通常称为软件定义存储(SDS)。由于这些是标准的x86服务器,因此连接到它们的存储设备并不比DAS中使用的设备贵。所以,这个观点不再适用。3.SAN存储是专有的。就如上所述的软件定义存储而言,基于标准x86服务器构建的SAN存储不再是专有的。4、SAN管理复杂。对于网络块存储的未来,情况不再如此。现在可以使用标准的x86服务器作为存储控制器,通过高性能以太网连接到计算服务器,构建网络块存储;可以使用虚拟网络,不需要LUN分区和掩码;标准LinuxMPIO驱动程序可用于共享存储以实现高可用性访问。此外,这种类型的存储可以轻松提供以应用程序为中心的存储管理,正如Tintri等人所展示的那样。这种类型的存储还可以在支持计算和存储综合管理的融合解决方案中与计算服务器集成。总之,未来的网络块存储将使用基于RDMA网络的以太网(而不是光纤通道),使用NVMeoF协议(而不是SCSI),并使用虚拟网络来消除分区和LUN屏蔽。由于术语SAN在许多人的脑海中经常与光纤通道以及分区和LUN屏蔽等概念相关联,因此我不会使用术语SAN来指代网络块存储的未来。6.下一代集成——2016——?如前所述,Super-fusion或HCI系统作为第三代集成出现在2012年。在我看来,第四代融合将利用我们在上一节中描述的下一代存储网络。我们称这种系统为超融合或SCI系统,它将服务器和存储集成在一起,并使用下一代存储网络将它们连接起来。与HCI一样,SCI将作为具有单一管理控制台的单一产品制造和交付。相同的RDMA以太网网络将用于将计算服务器相互连接以及连接到基于x86的存储服务器。与超融合系统不同,在超融合系统中,用户可以在SCI中选择存储服务器,确保它针对存储功能(可用DRAM、NIC的数量和速度、x86内核的数量等)进行了优化,SCI的存储服务器可以因计算服务器而异。与超融合系统一样,存储系统也将以应用程序为中心,通过单一控制台提供计算、网络和存储的集成管理。从以上分析可以看出,未来的超融合系统与超融合系统相比,已经没有了缺陷。相反,与使用共享块存储的超融合系统相比,使用DAS的超融合系统具有以下缺点。1.基于DAS的超融合系统以耦合方式扩展计算和存储。新节点通常以不同的比例添加存储和计算资源。超融合系统可以独立扩展存储资源和计算资源。这允许更精确地分配资源以满足应用程序需求。因此,超融合系统可以支持更多样化的工作负载。2.基于DAS的超融合系统使用闪存缓存和数据本地化来提高性能。由于不可预测的数据访问模式以及某些数据可能会从多个节点共享和访问,因此难以为未来的横向扩展工作负载维护数据局部性。另外,当工作负载从一个节点迁移到另一个节点时,超融合系统需要将数据从原节点迁移到新节点,以保证良好的性能。对于使用高性能NVMeoF的超融合系统来说,这不是必需的,因为任何节点的存储性能都是相同的。此外,在超融合系统中不需要主机闪存缓存,因为主机闪存访问和网络闪存访问之间的延迟差异可以忽略不计。超融合系统消除了开发缓存和数据本地化软件的复杂性以及任何随之而来的编程错误。3、与HCI不同,SCI系统可以通过选择为运行存储功能而优化的存储服务器来优化存储性能。4.HCI系统以低效的方式提供高可用性存储。所有现有的HCI系统要么使用复制(与RAID相比昂贵)或擦除编码(性能通常略逊于等效实现的RAID,因为与RAID使用的简单奇偶校验相比,计算开销更高),更多内存密集型功能)。超融合系统可以实现高性能RAID以提供高效的高可用性存储。5.HCI系统通常很难保证应用性能,因为运行客户应用软件所需的计算资源必然会与在同一组节点上运行vSAN软件所需的计算资源发生竞争,性能高度依赖于数据本土化。由于这些原因,我得出结论,未来的超融合系统可能会胜过基于DAS的超融合系统。7.总结和结论SAN的问题导致了超融合系统的出现。由于最近的技术发展,如NVMeoF、软件定义存储和以应用程序为中心的存储管理,相信在不久的将来出现的共享块存储系统将不再面临原来SAN的缺点。此外,包括这些下一代存储系统的未来集成系统(称为超融合系统)消除了超融合系统的几个限制,例如耦合扩展、迁移数据以维护数据局部性的需要、存储冗余效率低下、性能不一致等。我的结论是,未来最好的基础设施将是基于使用NVMeoF的新兴存储网络的超融合系统。超融合系统将继续占有一席之地,尤其是作为中小企业客户的入门级系统;对于中小型企业来说,易用性是至关重要的,可扩展性不是问题,但我们很可能处于炒作周期(hypecycle)周期)看到超融合系统已经达到顶峰(暗示它已经逐渐下降自那以后)。原标题:超融合之后会发生什么?超融合!添加一名作者