边缘计算性能的提升给内存设计、选型和配置带来了挑战，这也导致在不同的应用市场需要进行更复杂的权衡。芯片架构随着新市场的发展而发展，但数据如何在芯片、设备和系统之间移动并不总是很清楚。汽车和人工智能应用的数据量和复杂性都在增加，但芯片架构有时不清楚在处理数据时如何确定数据的优先级。这让芯片设计人员可以选择共享内存以降低成本，或者添加不同类型的内存以提高性能并降低功耗。这些都是以安全为前提，不同的市场设计有不同的要求。例如，车内各类图像传感器的大量数据，如激光雷达、摄像头等，都需要在本地进行处理。AI芯片希望性能提升100倍。解决内存问题有一些方法，其中之一是片上内存，即将内存分散集成在计算单元旁边，尽可能减少数据移动。这种方法的目标是通过减少负载量和存储量来突破内存瓶颈。它还可以降低功耗。“内存计算可能是模拟的、数字的，或者两者兼而有之。”CadenceDigital&SignoffGroup的高级产品经理DavePursley表示，“虽然在内存中计算的想法可能是一种增长趋势，但这种计算中实际发生的情况似乎非常不同。”SRAM和DRAM仍是主流尽管市场发生了新的变化，片上SRAM和片外DRAM仍然是主流。有专家预测DRAM会在多年后“消亡”，但它仍然是最经济可靠的选择。DRAM具有高密度、结构简单、低延迟和高性能、耐用和低功耗等特点。DRAM密度的增加速度正在放缓，但HBM2等新架构允许通过堆叠模块而不是使用DIMM来垂直增加密度，这种方法也使DRAM更接近处理单元。此外，SRAM价格昂贵，密度有限，但其高速性能已被多年证明。片上存储器的挑战在于是分配还是共享，在某些情况下为安全添加冗余。Arm高级物联网架构师RyanLim表示：“所有这些要求都会影响内存类型和数量的选择，片上和片外内存之间以及访问每个内存互连的复杂性之间存在权衡。”.低功耗内存是关键内存的一个关键问题是功耗，内存类型和配置等多种因素会影响功耗。例如，由于线路中的RC延迟，访问7nm内存中的数据可能会消耗更多功率。当然，这也会产生热量，可能会破坏进出内存的信号的完整性。但是，将高带宽内存用于较慢的片外数据可以节省功耗，并且可以与高速GDDR6一样快。如何做出这些决定取决于多种因素，包括设备的平均售价和所选的内存类型。还有用于手持移动设备的低功耗存储器，包括越来越多地依靠电池运行的边缘设备。“这些存储器具有极高的性能，可以在一定程度上增加电池供电设备的功耗和数据速率。”Rambus杰出研究员StevenWoo说。“它们还可以在多种模式下工作，在待机状态下，手机和平板电脑等设备消耗的电量非常少，并在需要处理时快速切换到更高性能/更高功率。模式。”低功耗存储器还支持多种封装方式，使其可以与手机处理器堆叠以满足智能手机的轻薄需求，也可以集成在PCB上以支持平板电脑中的大容量存储器配置和其他消费类设备的需要。毫无疑问，开发低功耗内存是一项挑战。“当你设计低功耗内存时，它们支持各种速度，并且这些数据速率相对于低速率往往相当高-功率存储器，”Woo说。“它通常由一两个主要应用市场驱动，因此它必须瞄准具有足够大市场的行业以启用新存储器。从历史上看，手机市场就是一个成功的例子。如果与不同的手机制造商相比，他们都想要更高的性能和更省电的内存，因为他们想要延长电池寿命。对于其他想要使用低功耗内存的公司来说，他们会庆幸其他人正在为他们做这件事。“通常，这些符合条件的内存可能以几种不同的数据速率运行，但彼此接近。”其中一个内存的速率可能为每秒4.2吉比特，另一个每秒3.2吉比特，”他解释说。这种情况发生在某些部件没有全速运行时，但制造商仍会出售内存，因为一些客户需要以更便宜的价格购买性能较低的内存。分档（数据合并）允许这种情况。性能在一定范围内，都是合格产品。“内存如何影响人工智能的发展？人工智能在几乎所有的新技术中都扮演着重要的角色，内存在人工智能中扮演着重要的角色。极高速和极低功耗是芯片一直追求的，这不”虽然它总是有效，因为空间有限。但它解释了为什么数据中心和用于训练的AI芯片最终比用于推理设备的芯片更大。另一种方法是减少一些片外存储芯片以提高数据吞吐量“并通过设计减少与内存的距离，或限制数据流。无论哪种情况，片外内存的竞争很大程度上归结为DRAM——GDDR和HBM。”从工程和生产的角度来看，GDDR看起来很像其他类型的DRAM，例如DDR和LPDDR，”Woo说。“你可以将它集成在标准PCB上，并使用类似的制造工艺。HBM是一项较新的技术，它涉及堆叠和中介层（interposers），因为HBM有很多连接，速度较慢。每个HBM堆栈将有上千个连接，因此需要高密度互连，远远超过PCB可以处理的。这就是为什么有些公司在使用中介层，因为这些电线可以非常紧密地蚀刻在一起，就像芯片上的连接一样，以获得更多连接。“HBM追求高性能和良好的电源效率，但成本更高，需要更多的工程时间和技能。使用GDDR，DRAM和处理器之间没有那么多互连，但它们运行得更快，这会影响信号完整性。图1：各种类型DRAM的特性。图片来源：RambusPPA功率、性能和面积（Power、Performance、Area）仍然是关键驱动因素，尽管有架构和变化以及新技术。“这三者都很重要，但很大程度上取决于应用。”SiemensMentor知识产权部门总经理FarzadZarrinfar说。“比如，如果是便携应用，功耗是很重要的。供电本身也分动态和静态，一部分是动态功率，一部分是静态功率。如果应用于无线通信，动态功率是如果有大量计算，则非常重要。但是，如果是可穿戴应用，用户入睡、醒来锻炼，然后在不同状态下再次入睡，静态/漏电功率非常重要。”轻度睡眠等功能使设计人员能够显着减少泄漏，其中非活动存储器进入源偏置模式以减少泄漏，而直接访问的其他存储器组处于活动状态。在设计的深度睡眠中，这可以通过电源管理、管理Vdd和最小化泄漏以保存数据的技术来实现。如果不需要保留数据，可以使用关闭模式进一步减少泄漏。与能效相关的一切在汽车中也至关重要。“在电动汽车中，电池的寿命非常重要，因此功耗很关键，”Zarrinfar说。“人们希望在-40°C到125°C的温度范围内都具有线性特性，在150°C时甚至更高。他们不希望在高温下漏电急剧增加，他们希望尽可能保持在线，另外，我们还必须注意整个温度范围内的功耗和漏电，这非常重要。”无论应用领域如何，功率仍然是首要考虑的因素。“我们看到了更小的SoC设计，”他说。“内存的消耗在增加，嵌入式内存的容量也在增加。现在，我们看到超过50%的芯片是内存。所以人们不得不关注内存的功耗。”图2：1999年至2023年平均芯片圆形面积资料来源：SemicoResearch结论尽管有许多革命性技术和创新架构，但内存仍然是设计的核心。尽管相变和自旋扭矩等新的存储器类型即将出现，但大多数仍在各种市场条件下使用。最大的变化在于现有存储器的优先级排序、汇集、设计中的选择以及最终使用的方式。虽然这听起来像是一个简单的问题，但事实并非如此。“选择正确的内存解决方案通常是获得最佳系统性能的最关键因素。”Synopsys高级技术营销经理VadhirajSankaranarayanan在最近发布的一份白皮书中指出，这说起来容易做起来难。
