当前位置: 首页 > 科技观察

大脑这么好的东西,我们模仿得怎么样了?类脑计算报告

时间:2023-03-13 23:46:38 科技观察

本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。技术:目前处于从计算智能向感知智能的过渡阶段正如我们所看到的,人工智能依靠海量数据和精确计算,近年来取得了令人瞩目的进步。但是,与人脑相比,基于它的深度神经网络(DNN)在信息处理效率,即速度和功耗方面还不够好。其中,“速度”是指它按顺序计算不同神经层的输出,导致每一层都必须等待上一层的输出计算完成才能执行下一步,缺乏架构灵活性。“功耗”是指在冯·诺依曼架构下,海量数据意味着频繁、大规模的计算,随之而来的是功耗的快速增长。而我们的人脑依靠其中的神经元以脉冲的形式传输信息。大约870亿个神经元以高度非线性的方式工作。每个神经元与外部和内部的其他神经元有多达10,000个连接。承载数十万个协同并行进程,功耗仅为20W左右。于是人们将一部分注意力转向了类脑计算。从定义上看,目前的类脑计算可分为狭义和广义两种。狭义的类脑计算是指模仿大脑的神经结构和工作原理的创新型神经形态计算,学术界称之为类脑计算。广义的类脑计算不仅仅局限于在借鉴大脑的结构和工作原理的同时对大脑进行模拟,还融合了传统的人工神经网络(ANN)和其他具有更多类脑特征的异构神经网络.,学术界称之为类脑计算。与深度学习中的DNN相比,类脑计算的研究主要围绕SNN网络展开。所谓SNN,全称脉冲神经网络,是第三代人工神经网络。它用0/1脉冲序列表示信息流,代码中包含时间信息。与ANN最大的区别在于它有时序。只有当神经元膜电压累积到特定的电压阈值时,SNN的神经元才会放电(spike),而不会在每个信息传递周期都被激活。下面是ANN网络和SNN网络的详细对比:目前业界已经形成了四种影响较大的SNN模型,其中最接近生物神经元的H-H(Hodgkin-Huxley)、应用最广泛的LIF,以及最简单的结构Izhikevich和更通用的SRM。BindsNET和Spyketorch等少数平台可以支持大规模SNN的构建和训练。但是,对于各种SNN模型,目前还没有统一的训练算法,主流的至少有3种:以上SNN模型和算法,加上仿真框架和数据集,构成了类脑计算技术生态的软件部分。硬件生态部分主要包括类脑芯片和新型存储器。其中,类脑芯片大致可以分为三类,包括:支持脉冲神经网络的神经形态芯片:TrueNorth、Loihi、Darwin芯片等;支持人工&脉冲神经网络的异构融合芯片:天机、Loihi2、灵启KA200;支持神经元编程的脑仿真平台:SpiNNaker、BrainScaleS、灵奇KA200等。新型存储器主要指忆阻器,结构简单,集成度高。理论上,可以实现突触的功能,可以大大增加突触的密度。是从硬件层面实现类脑神经网络的有效途径之一。一。热门的研究方向集中在RRAM(电阻忆阻材料)和MRAM(磁忆阻材料),其中已有公司在做RRAM的商业实现。从科研进展来看,欧美国家整体上具有先发优势。类脑计算的概念最早是由一位名叫库弗·米德的美国科学家在20世纪80年代提出的。1995年,瑞士苏黎世联邦理工学院和苏黎世大学率先联合成立了神经信息学研究所(INI),正式开创了类脑计算研究的先河。2004年前后,这项技术开始被IBM、曼彻斯特大学等众多知名机构正式“看中”。随后,越来越多的成员加入队列。总体而言,国外主要以IBM、英特尔、海德堡大学、曼彻斯特大学等为代表,取得的成果包括:国内类脑计算研究始于2014年左右,以清华大学、浙江大学、中国科学院为代表科学博士,主要成果包括异构(SNN+ANN)融合的“天机”核心、达尔文芯片,以及由该芯片组成的类脑计算机。业内人士分析,总体而言,类脑智能的发展将经历计算智能-感知智能-认知智能-自主智能四个阶段,每个阶段对应的应用价值不同:计算的应用智能阶段主要关注低功耗移动设备、可穿戴设备、物联网智能软件和实时端侧离线信息处理工具。感知智能阶段的应用主要包括事件驱动的视觉传感器、神经形态触觉传感器等,应用场景包括手势识别、汽车高速避障、工业视觉、机器人灵巧手等。在认知-自主智能阶段,会衍生出各种自适应的机器人,这是很多类脑企业想要实现的长期目标。现在,类脑智能正处于从计算智能到感知智能的阶段。除了上述标准化算法的实现外,还面临以下四个研究难点:1.脑信息处理的数学原理和计算模型神经网络架构是类脑开发的基础尚不完全清楚。目前遇到的问题是网络的拓扑结构、规模和精确度千差万别,网络要建多大,要有多少互连才能表现出更好的生物学特性都不清楚。2.类脑设备和材料需要新的技术突破。新型纳米器件仍存在工艺稳定性差、规模化难度大等问题。类脑系统需要数百亿个神经元协同工作,而现有的类脑芯片硬件资源有限,难以实现大规模的神经元互连集成和神经元脉冲信息的高效实时传输。3.没有公认的基准来衡量该领域的进步。4.最后,还有一种观察大脑的单一方法。但据国内学者预测,人脑神经网络精细图谱有望在20年内完成。尽管还存在诸多问题,但类脑产品的商业化已经开始并取得进展。行业:全球已有3家企业实现量产。目前,类脑智能的开发正处于商业探索的早期阶段。相关类脑初创公司的融资轮次基本都在A轮,但融资金额基本都在亿元以上。根据量子比特智库的研究,现阶段商业公司都瞄准了端侧/边缘市场,主要方向有感知芯片和计算芯片两大方向。总的来说,做类脑计算(处理器)的公司比类脑感知(传感器)的公司多。国内约有10家相关初创企业,基本成立于2017年和2018年。专注于类脑研究的企业和创新转化平台约有3-5家。其中代表玩家之一的灵璧科技,去年已实现类脑芯片(或产品)的量产。石狮科技(前身为瑞士苏黎世的aiCTX)也将在今年底或明年实现量产出货。其中,灵璧科技虽然从成立年限来看属于初创公司范畴,但其研发早在2013年清华大学成立类脑研究中心时就开始了。国内其他类脑创业公司包括以下(完整名单见报告):在海外,相关创业公司多集中在欧美地区,企业数量略多于中国。其中很多像灵璧科技,都是由相关高校或研究所的类脑研究成果直接孵化而来。值得注意的是,全球唯一一家类脑计算上市公司在国外崛起:成立于2014年的Brainchip。但其股价长期低迷,营业收入并不可观(仅160万美元)。去年收入)。这或许与Brainchip的产品在性能上没有表现出明显优势有关,也反映出类脑产品的商业价值在二级市场上可能存在争议。再看生态建设情况。这方面基本上还是由英特尔等半导体大公司来做。在国内,还没有大型公司引领类脑计算的研究,但代表玩家灵币科技在战略目标上与Intel、SpiNNaker保持一致,希望成为新一代算力基础设施提供商。分析人士将类脑生态的上游概括为硬件厂商、IP授权商、类脑企业的商业化合作伙伴(国内类脑企业多选择国内芯片厂商)。中游分为类脑研发机构和商业公司;下游分为应用领域,已经开始类脑合作部署。最终形成如下类脑生态图谱:在具体应用场景方面,目前的类脑解决方案基本都是从低维信息处理和高速视觉处理入手,主要面向端侧可穿戴设备、相机和终端设备。在此基础上,未来会增加复杂环境下的实时决策能力,对应的场景是无人机和自动驾驶。随着类脑技术(大规模并行计算、自主学习等)和类脑产业的成熟,在更长的维度上,类脑应用场景将覆盖数据中心和自主机器人。此外,由于功耗低,类脑芯片非常适用于人体植入(植入性疾病治疗)、脑机接口等应用领域。目前,实现类脑产品初步量产的国内外企业仅有3家左右。量子比特智库分析行业遇到的商业化障碍主要包括以下几个方面:一是对于初创企业来说,存在客户更换成本高的问题。因为芯片产业的发展是一个围绕产品构建巨大生态的过程,在类脑产品的产品化过程中,由于其底层逻辑(高度模拟的大脑)与现有计算机的逻辑存在根本差异,其融合过程的难度增加。客户进行替代的成本/难度会非常高。此外,类脑的价值在于基础科学的多项突破和交叉融合。例如,新设备需要材料的创新,算法的有效性基于神经科学的突破。创业公司还缺乏相应的资源和资金来进行创新。其次,对于大型半导体企业而言,类脑计算在一定程度上与其现有的核心业务形成竞争。他们通常等到尖端技术在市场上得到充分验证后,才会将其商业化。而对于一些企业来说,他们的研发投入来自于国家或者政府,而不是靠商业化来盈利。在这种情况下,它的研发资金是有足够保障的,而这种技术通常要等到投资人撤资后才会考虑商业化,比如IBM的TrueNorth项目,主要服务于美军。最后,从整体上看,围绕类脑的研发人员数量有限,这也是限制类脑智能大规模开发的因素之一。但尽管如此,分析人士认为,类脑计算仍有两条极具潜力的商业化路径:大规模并行计算硬件平台(computing)和基于事件驱动特征的产品(sensing)。其中,后者是最有可能率先实现商业化的方向。一方面,事件驱动特性可以解决当前AI细分市场面临的紧迫问题——高能耗;另一方面,事件驱动技术更加成熟,企业已经开发出完整的解决方案。