当前位置: 首页 > 科技观察

IBM研发新型神经网络芯片高度匹配GPU

时间:2023-03-19 12:10:45 科技观察

IBMResearch博士后研究员StefanoAmbrogioAmbrogio和他的同事最近在《自然》期刊上发表的一篇论文中描述了他们使用新兴的模拟存储器和更传统的电子元件的组合创建了一种芯片,该芯片可以匹配GPU的精度,同时运行速度更快,使用更少的电力。该芯片使用“突触单元”来解决存储技术难以训练深度神经网络的问题。过去,在训练深度神经网络时,需要将每个神经元的权重上下刺激数千次,直到网络完全对齐。改变这些设备的电阻需要重新配置它们的原子结构,而且每次的过程都不同,因此刺激并不总是完全相同,导致对神经元权重的调整不精确。但新开发的“突触单元”可以让每个“突触单元”对应网络中的单个神经元,同时具备长期和短期记忆。每个单元由一对相变存储器(PCM)单元和三个晶体管的组合组成,晶体管可以将重量数据存储在电阻器中,而电容器可以将重量数据存储为电荷。Ambrogio表示,最终芯片将设计为与GPU配合使用,以处理全连接层计算以及其他连接。他还认为,这种处理全连接层的更有效方式可以得到更广泛的应用。至于芯片的应用,Ambrogio表示:一是可以将人工智能应用到个人设备上,二是可以让数据中心更有效率。如果AI直接应用于个人设备,用户可以通过不必在云端共享数据来增加隐私,更令人兴奋的前景是AI的个性化——将这种神经网络应用于汽车或智能手机。借助互联网,智能设备可以不断地从人们的经验中学习。