Zhidxcom(公众号:zhidxcom)文本| “AI芯片创新峰会”在上海举办。
本次大会的主题是“走进AI世界,从芯看未来”。
邀请32位重要嘉宾分享,从上游产业链,到热门创业项目,到各个领域AI芯片驱动产业升级的新思维,系统探讨2020年AI芯片的技术前景和行业趋势在本次峰会上,国内AI芯片行业四小龙之一的深鉴科技及其联合创始人兼CEO姚松发表了题为《AI芯片行业新思维》的演讲,分享了他的思考。
整个AI芯片产业。
。
以下是智东西为您整理的姚松演讲核心信息。
1. AI芯片如何定义?这次峰会讲的是AI芯片,但是什么样的芯片才能称为AI芯片呢?首先,姚松首先谈到了现在大家都在谈论的人工智能的不同范围:“人工智能是一个非常广泛的概念,我们应该如何定义人工智能芯片?这里面隐含着一个逻辑。
现在当我们说当我们讲AI,其实只是指AI的机器学习部分;现在我们讲机器学习,大部分是指其中的深度学习部分,而目前流行的神经网络算法也只是深度学习部分; 。
一部分”。
无论是深度学习还是机器学习,它们都分为两个独立的部分:训练端和推理端。
神经网络中,有VGG网络、ResNet-50网络等分类。
在这些网络之上,还有 SSD 和 Faster R-CNN 等面向对象的框架。
所以大家在谈论AI的时候,首先要明确我们指的是哪个层面。
今天,当我们谈论人工智能时,我们更多地指的是机器学习和深度学习。
在梳理了人们所说的AI的范围后,姚松进一步指出,AI的不同定义会导致整个芯片设计和难度的差异。
对于机器学习等高层设计概念来说,其通用性越强,针对特定神经网络开发的芯片的专用性就越强。
如果想要做出一款具有高质量通用性能的芯片,比如设计一个像CPU这样的芯片,是相当困难的。
如果要做最简单的芯片,只需要先完成算法,然后将算法硬化到芯片上即可。
这是最容易设计和实现的想法。
因此,姚松认为,从设计角度来看,大多数AI芯片的设计比CPU、GPU等通用芯片更容易设计。
对此,姚松还列举了目前市场上针对不同级别AI定义的芯片的例子。
例如ARM等国外芯片巨头在CPU中加入神经网络加速库,NVIDA的GPU用于AI训练,Xilinx的FPGA,用于深度学习推理的TPU V1,以及将自动驾驶算法写入芯片的Mobileye Eye Q5。
、Intel CPU、Movidius DSP等都是针对不同级别的AI芯片。
在AI芯片方面取得进展的国内公司也有不少,而且他们针对的AI水平也各有不同。
比如针对更通用的机器学习市场的寒武纪MLU和深鉴科技自家的深鉴DPU则更专注于深度学习。
Horizo??n的Horizo??n Journey更侧重于面向行业的算法。
因此,姚松总结道:“当你听说一家公司在做AI芯片时,你首先要弄清楚该芯片是针对哪个AI级别的。
” 2. 制作一颗AI芯片需要哪些工作?明确了AI定义层次的不同层次后,姚松接着深入探讨了做AI芯片的公司需要做什么。
姚松表示,做AI芯片并不像大家想象的只是做一个芯片那么简单。
他以制作CPU为例,给出了从应用到最终系统的八个层次。
姚松以压缩应用为例详细解释: 这八个层次的最顶层是应用。
无论是zip还是rar格式的压缩应用,下层都包含一系列算法和库。
这些算法和库的开发和建立需要一个可供所有程序员和开发人员用于开发的软件环境。
例如,Microsoft Windows 中的 Visual Studio 就是这样的环境。
软件环境的建立需要下一级操作系统、驱动程序和编译器的支持。
例如,Visual Studio中的MSVC可以将程序编译为最终指令。
例如,CPU上的X86指令集是一个非常通用的指令集,可以很好地将上层应用程序和下层芯片需要做的事情分开。
有了指令集,就可以定义芯片的核心架构,下层芯片公司可以选择做或不做。
比如ARM做的是IP授权,而Intel做的是芯片本身。
下一个层次是芯片本身的实现,无论是制作电路板还是SoC。
对于做CPU的公司来说,中间两层,即指令集和IP是最重要的。
从这一层向上和向下有两个比较清晰的界限。
对于做CPU的公司来说,上下层都是可以选择不做的。
但对于做AI芯片的公司来说,如何划定这两个界限呢?作为资深AI芯片设计师,姚松给出了自己的理解。
首先,对于AI芯片来说,其设计是针对不同的用户,因此指令集不同,在芯片上运行的要求也不同。
这些有针对性、差异化的指令集对于AI芯片公司来说非常重要。
需要自己开发。
芯片的底层程序和应用算法也有很大不同。
姚松以人脸识别算法为例。
他表示,更多的程序员会选择用Python和C来编写程序,有的还需要修改操作系统内核等,在这样做之前,必须准备好上层设计环境。
姚松接着指出,做底层设计的人和做应用程序的人是分开的。
但对于AI芯片企业来说,只做IP层面就够了吗?我们应该做芯片,还是应该以板的形式进一步开发?如果更进一步,我们是否需要开发一种算法?姚松表示,对于AI芯片来说,开发算法也是可以的,因为用户使用AI芯片开发算法也需要一定的时间。
例如,英伟达在做自动驾驶芯片时,已经构建了一套完整的最终系统和应用程序。
因此,对于芯片公司来说,决定上下分割线应该画到哪一层是非常重要的。
3、如何打造产品护城河。
拥有了性能非常出色、具有一定市场竞争力的芯片后,AI芯片公司应该如何打造产品护城河?姚松表示,AI芯片公司的最终目标是让更多的用户使用自己的产品,这可以分解为三个部分:1、产品要有竞争力;2、产品要有竞争力。
2.让用户能够访问你的产品。
产品并愿意使用它; 3、产品必须准确满足用户的需求。
姚松甚至提到,如果不做到这三点,产品就很难具备长期竞争力。
在产品的用户体验方面,姚松还提出将其分为四个级别:第一个级别是可以使用的,这个级别的AI芯片可以运行机器学习算法,也就是说芯片可以用过的;第二层很容易使用。
当一个AI芯片有很高的性能/功耗比,然后有相应的完整的软件开发工作流程,让每个人都可以使用芯片上的这些软件时,这就是好用;第三层使用方便;第四层是爱用的。
如果一款芯片操作非常简单,可以一键开发,用户就会喜欢使用它。
第四层与之密不可分。
要保持在这个水平,芯片公司需要为客户提供额外的价值,比如为用户提供一个平台,上面有大量的开源项目供用户进行参考设计。
打造产品护城河时,最重要的基础部分就是硬件。
硬件良好的性能和功耗比将支持更多的软件功能,这就需要不同层次之间的组合。
例如,在安防行业,如果像大华这样的公司接手一个项目,就需要集成商进行集成,比如将视频管理软件、IP摄像机集成到芯片系统中。
如果你想给相机添加AI,只需要添加一个具有AI功能的模块即可。
该模块内部有芯片和各种模块嵌入软件。
通过调整集成中软硬件连接的串口,模块逐渐稳定,然后用户可以通过开发环境使用集成系统。
在做层级组合时,姚松提到,对于AI芯片企业来说,有两点非常重要:一是提供的层级。
离客户越近,总收入越高,离最终客户越远,总收入越高。
其次,芯片设计每跨越一个层次,开发周期就会增加6个月到一年,这是一个非常长的开发时间。
如果想要打造产品护城河,另外重要的一点就是增加产品的不可替代性?姚松对此也分享了自己的看法。
他认为,AI芯片研发企业需要注意五点:1、设计芯片时,清楚了解最终用户的需求; 2、缩短开发周期,将芯片开发难度降到最低; 3、将芯片集成到系统中,操作更方便; 4、尽可能减少第三方协作; 5.为用户提供更多的参考设计。
对于为用户提供更多的参考设计,姚松提到了自己的一些想法:一是尽可能的去应用层,多了解一些应用;第二,花更多的精力为用户提供易于使用的软件,并尝试提供算法和库。
三是在垂直行业提供尽可能多的算法框架。
第四是尽可能提供系统级的解决方案,而不是单芯片。
五是尽可能构建生态环境,让每个人都能看到更多用户生成的内容。
结论:软件和系统是AI芯片的重要竞争力。
最后,姚松总结道,好的AI芯片产品需要精准的算法和面向整个垂直行业的完整体系。
他用爱迪生的“天才是100%”的名言来说,“百分之一的灵感加上百分之九十九的汗水”,“开发芯片本身只占整个AI芯片的1%。
对于AI芯片开发者来说,有仍然是99%的脏活儿要做”。
在这些脏活累活中,AI芯片开发商不仅要更加关注垂直行业应用来定义系统和芯片架构,还要更加关注最终用户,为他们提供更多服务。
当然,从AI芯片行业从业者的角度来看,姚松也指出了关于AI芯片公司定位的非常重要的一点:每一个AI芯片公司都需要成为一家软件&系统公司,才能获得成功。
在市场竞争中具有优势。