达摩院成功研发出集存储与计算于一体的AI芯片，性能提升10倍以上。达摩院成功研发出新架构芯片。该芯片是全球首款基于DRAM的3D键合堆叠内存计算一体化AI芯片，可突破冯·诺依曼架构的性能瓶颈，满足高带宽、大容量内存和极致计算能力的需求。人工智能等场景。在特定AI场景下，芯片性能提升10倍以上，能效比提升高达300倍。达摩院存储计算一体芯片70年来，计算机都是按照冯·诺依曼架构设计的，运行时数据需要在处理器和内存之间来回传输。随着时代的发展，这种工作模式面临着更大的挑战：在人工智能等高并发计算场景中，来回传输数据会产生巨大的功耗；当前内存系统的性能提升速度大大落后于处理器的性能提升速度，有限的内存带宽无法保证高速数据传输。冯诺依曼与冯诺依曼计算机在摩尔定律逐渐放缓的背景下，存储与计算的融合成为解决计算机性能瓶颈的关键技术。存储计算集成芯片类似于人脑。它将数据存储单元和计算单元集成在一起，可以大大减少数据处理量，从而大大提高计算并行度和能效。这项技术早在1990年代就被提出，但受限于技术复杂、设计成本高、缺乏应用场景等因素，过去几十年业界对内存计算集成芯片的研究进展缓慢。达摩院研发的存储计算一体化芯片集成了多项创新技术，是全球首款采用混合键合3D堆叠技术实现存储计算一体化的芯片。芯片的存储单元采用异构集成嵌入式DRAM（SeDRAM），具有超大带宽、超大容量的特点；在计算单元方面，达摩院开发设计了流式定制加速器架构，为推荐系统实现“端到端”。”，包括匹配、粗排序、神经网络计算、精排序等任务。得益于整体架构的创新，该芯片同时实现了高性能和低系统功耗。在实际的推荐系统应用中，与传统CPU计算系统相比，内存计算集成芯片性能提升10倍以上，能效提升300多倍，该技术的研究成果已被ISSCC2022收录，芯片领域顶级会议，未来可应用于VR/AR、无人驾驶、天文数据计算、遥感影像数据分析等场景。达摩院计算技术实验室科学家郑鸿忠表示：“存储与计算融合是一种颠覆性的芯片技术，天然具有高性能、高带宽、高能效等优势。能源消耗问题，达摩院研发的芯片将这一技术与场景紧密结合，实现了内存、计算和算法应用的完美融合。”据悉，达摩院计算技术实验室专注于芯片设计方法论和计算机新体系结构技术的研究，拥有多项领先成果，在ISSCC、ISCA、MICRO、HPCA等顶级会议上发表多篇论文。
