云天励飞IPU专注于嵌入式视觉智能终端。
据介绍,云天励飞AI芯片的技术路线是设计一系列面向多层神经网络的可扩展编程处理器,以应对人工智能算法的快速迭代。
“我们首个‘自适应云+终端’的AI系统架构,可以通过云端逻辑控制终端芯片,自动更新终端芯片的算法和功能。
”据云天励飞联合创始人兼CEO陈宁介绍,云天励飞自主研发的专用深度学习神经网络处理器芯片,采用ASIP设计思想,提供ASIC级高性能和低功耗,以及处理器——级指令集灵活性。
同时采用异构计算多核SOC架构,集成多处理器单元、并行分布式处理和集中控制系统。
与传统芯片的迭代速度相比,AI芯片的迭代速度更快。
“目前算法每半个月迭代一次,AI芯片需要同步迭代,而传统芯片的迭代是每年计算一次。
现有的CPU或GPU无法满足嵌入式视觉AI应用的需求。
”据云天力飞研发副总裁李爱军表示,通用CPU在神经网络加速方面较慢,性能无法满足嵌入式端的需求; GPU性能足够,但功耗和成本仍然较高。
“所以,我们觉得有必要研究适应新神经网络的深度学习处理器架构芯片。
”云天励飞研发的芯片是一款面向嵌入式端的边缘计算人工智能芯片,专注于智能视觉和安全及智能业务。
其他领域的场景应用。
拥有国内顶尖的ASIP矢量处理器芯片设计团队。
“云天励飞的芯片生产并不是一时的想法,而是从公司成立之初就开始了芯片布局。
”据陈宁介绍,云天励飞早在2016年就有了完整的芯片设计,“机器学习与视觉智能处理器”AI芯片解决方案在2018年获得深圳孔雀队第一名。
当时,云天励飞的芯片研发团队是国内AI芯片行业唯一具有芯片商用经验的团队。
陈宁本人是中国第一颗商用矢量处理器芯片的设计者,芯片团队的带头人李爱军是原中兴通讯手机芯片研发负责人,主导开发了第一颗商用矢量处理器芯片。
国内28纳米手机芯片(),国内首款商用LTE多模手机芯片。
陈宁表示:“我们的芯片研发团队是国内顶尖的ASIP矢量处理器芯片设计团队。
主要骨干团队成员具有丰富的矢量处理器和复杂SoC芯片设计经验,平均设计经验超过10年。
“IPU具有高能、低耗、可编程、可云端升级等特点。
据了解,云天励飞于2016年完成了第一代深度学习神经网络处理器NNP的开发,并基于FPGA载体实现商用。
”艾军介绍,NNP深度结合云天励飞自主研发的深度学习算法,与自主研发的神经网络模型深度耦合,具有强大的计算处理能力和灵活的模型池化能力,支持PE数量任意扩展。
并且根据场景需求量身定制,同时还具有高性能、低延迟、低功耗的技术优势。
”与以往的应用效果相比,FPGA加速卡采用了NNP来提高计算性能。
2倍,功耗降低5倍,延迟降低5倍。
”李爱军介绍,NNP目前应用在云天励飞的DeepEye智能盒和DeepEye服务器加速卡产品中。
基于NNP的技术基础,云天励飞已经在研发第二代深度学习神经网络处理器NNP,并取得了阶段性成果。
结果。
NNP将集成到云天励飞的IPU(智能处理器单元)芯片中,应用于智能终端产品。
据介绍,云天励飞的视觉AI芯片相比英伟达开源nvDLA具有2Tops/W的高能效。
在相同算力和较小内存带宽的情况下,算法模型效率可提升18倍。
与麒麟相比,同等算力下,性能提升4.4倍。
“云天的芯片具有高能低耗的优势,此外还可以一键编程、远程升级。
该芯片可以同时处理多路高清视频,还可以通过芯片间级联。
”李爱军表示,多芯片级联就相当于搭积木。
每个芯片都通过板级互连进行扩展。
通过级联扩展,最多可同时处理64路视频。
“我们采用业界领先的22nm工艺,性能、功耗、面积都经过了仿真、分析和对比,与业界主流的28nm工艺相比,都有一定的优势,性能提升了10左右。
%,功耗降低约15%,面积降低15%-20%。
”陈宁还提到,云天励飞的IPU芯片计划在今年年中实现流片并推出。
明年上半年投入商用。
最终通过模式创新打造开放、赋能的芯片平台。
云天IPU的最大亮点——对场景的更深入理解 与传统芯片相比,AI芯片更注重“从场景到算法,从算法到芯片”。
因为不同于以往从硬件入手的思维,AI芯片的产业形态和商业模式正在发生变化。
变化。
目前,AI芯片的应用场景主要集中在安防、智能家居及消费电子、自动驾驶、云计算、智慧城市等行业。
“由于目前还没有一款适合所有通用算法的嵌入式AI芯片,因此确定芯片的应用场景就显得尤为重要。
”陈宁提到,近三年来,云天励飞深度涉足安全领域,率先提出了针对安全行业的“云+端”解决方案,真正将AI技术落地到垂直场景。
云天励飞的旗舰产品“神木”系统在深圳及全国范围内建设了0多个在线智能前端设备通道,动态人像数据量超亿,是全球最大的动态人像数据库。
“今天,当场景定义算法和算法定义芯片时,我们的算法训练来自真实场景,这也意味着我们的芯片对场景有了更深入的理解,我们知道如何优化才能做到最好。
”陈宁还提到,“算法+芯片+数据”的闭环生态系统是云天励飞的核心竞争力。
同时,云天励飞也是国内唯一一家同时具备算法、芯片、数据三要素的公司。
2018年,中国成为全球视频监控发展最快的国家,让1亿个摄像头拥有“AI芯”。
我国部分一线城市已实现10%的监控摄像头全覆盖。
据行业研究公司IHS Markit的最新统计,中国目前在公共和私人区域(包括机场、火车站和街道)安装了1.76亿个监控摄像头,未来三年这一数字将翻一番。
达到6.26亿。
“云天励飞想做的就是用芯片产品来激活这些传统相机。
2010年,1亿个相机将拥有‘AI核心’。
”据介绍,云天励飞采用的是“算法+芯片+“数据+应用+服务”提供端到端的整体解决方案路线:将算法植入前端智能摄像头,进行人像检测和处理。
特征值提取,数据上传云端,云引擎进行搜索、识别、决策,前后端算法联动和深度优化,芯片级解决方案是核心。
陈宁还提到,除了芯片技术的创新,云天励飞还将探索芯片商业模式的创新,推动“芯片+服务”的新路子,“未来我们甚至可能会推出芯片免费试用,改变传统的芯片体验。
”我们过去卖芯片的方式,让云天的AI核心通过服务渗透到行业,最终达到赋能各行业的目标。