本文转载自微信公众号《AI前线》，作者柳岩。转载请联系AI前线公众号。AI芯片进入市场测试期。技术研发水平是“没有芯片，就没有AI”。近年来，业界对摩尔定律失效的担忧一直存在。后摩尔定律时代，AI芯片的崛起备受期待。AI芯片一度风头正劲，热度空前。与此同时，挑战依然存在。目前的AI芯片处于研发初期，还有很多技术痛点需要攻克。在设计和研发方面，最大的技术挑战之一是如何跟上人工智能算法的发展。芯片研发的速度往往滞后于AI语言的迭代速度。当很多芯片生产出来的时候，AI算法已经发生了很大的变化，甚至已经过时了。因此，在芯片设计中，预测未来前沿算法的趋势非常重要。建筑创新能力也是核心竞争力之一。设计开发前的第一个大问题就是解决架构问题，需要有适合所有应用的架构。正确的架构取决于对人工智能的理解。一些专家具有较强的芯片设计能力，但对人工智能计算或应用特性了解不深，一些人工智能算法科学家缺乏基础知识。AI芯片的核心点在于对整个AI算法和硬件能力有一个宏观的认识，准确预测未来的发展趋势。能有这种综合能力实属不易。去年初，图灵奖获得者JohnL.Hennessy和DavidA.Patterson在他们合着的论文中预测，未来十年，计算机体系结构将迎来新的黄金时代。投入成本高、进入门槛高、周期长、回报率低是整个AI芯片行业的“顶峰”大山，也是当前行业发展的现实。一个AI芯片的研发周期一般在18个月左右。一款AI芯片产品出来后，可能需要经过N次迭代才能获得较大的市场份额。这是一个考验耐心和韧性的行业。目前，国内约有十几家企业实现了AI芯片的量产，包括华为、寒武纪、依图、鲲云等企业。据亿欧智库研究数据显示，以终端普遍使用的28nm工艺芯片为例，国产AI系统芯片的研发成本约为2500万美元。新鼎资本创始人张驰曾在接受InfoQ采访时表示，寒武纪等AI芯片公司的研发支出主要花在了流片上，技术含量高导致流片成本高。一般一个芯片的流片成本都是几千万起步。如果要做到7nm，至少要5000万，这还不包括流片失败的成本。像寒武纪这样规模的公司，一次芯片流片的规模一般可能在30-5000万左右，甚至上亿。英国AI芯片初创公司Graphcore高级副总裁兼中国区总经理陆涛告诉InfoQ，AI芯片的研发成本主要包括五个方面：开发工具成本。IP购买成本。如果内部IP积累少，则需要购买IP，成本在几千万美元左右。后端设计成本。如果你没有后端设计流程，你需要依靠Broadcom、IBM和TI等公司的帮助。一些较新的过程可能涉及更高的成本。劳动力成本。一般做一个AI处理器的团队需要100人左右，而且只能做一个产品。如果要保持目前顶级厂商的迭代速度，可能要并行做几款产品，这是一个很大的成本投入。失败成本。一个有经验的团队，可能一个版就成功了，如果不成功，就需要做好几个版，成本投入大。“更高性能、更低功耗、更小面积、更低成本”是芯片设计的永恒目标。除了这些与设计相关的指标外，更关键的因素是芯片所采用的工艺。在相同的芯片面积下，更先进的工艺显然有助于提升峰值性能和能效比，但这也会显着增加芯片成本。鲲云科技COO王少军认为，架构创新不仅考验芯片企业的硬件设计能力，更考验专业领域的应用理解和转化能力。在AI领域，这主要体现在对算法的深入理解上。了解并准确判断发展趋势。对摩尔定律终结的质疑在一定程度上解释了业界对芯片工艺水平持续提升的能力、速度和成本的担忧。他认为，单纯依靠流程改进来解决性能问题的技术路线在不久的将来将面临巨大的挑战。基于这样的判断，鲲云科技更加关注芯片利用率和实测性能，希望通过架构创新为客户提供更高的算力性价比。一周前，鲲云科技发布了全球首款数据流架构AI芯片CAISA。据悉，搭载CAISA芯片的加速卡只有英伟达同类产品峰值运算能力的1/3，却能达到95.4%的芯片利用率。实现了高达3.91倍的性能提升。数据流架构或许是未来提升AI芯片性价比的可行技术路线。AI芯片在落地下半场的极致性价比实现，也与应用强强相关。陆涛觉得，如果在一些应用中，能做到5倍、10倍、20倍的性能，性价比问题就会变得简单。找到合适的场景，实现合理的利润率和规模化出货，逐步构建自己的生态圈，是衡量一家AI芯片企业商业化道路成功与否的关键标准。智能安防、智能终端、自动驾驶、云计算等场景是目前AI芯片的主要应用场景，尤其是安防领域。几乎所有的AI芯片公司都在该领域有所布局，安全硬件巨头也如火如荼。AI芯片开发。自动驾驶是落地速度快、能够相对独立地为用户提供价值、具有可观应用潜力的场景之一。目前，自动驾驶技术的实际落地还不成熟，存在一些“雷声大雨点小”的情况，这也在很大程度上限制了AI芯片的落地。长期关注AI芯片行业的媒体人刘宇（化名）对自动驾驶的未来持怀疑态度。他认为，自动驾驶本身并不靠谱。在他看来，一款“靠谱”的AI芯片应该具备类似指纹识别的应用特点——计算量小、效果好、成本足够低。另外，不要过度“束缚”深度学习，因为深度学习的红利基本已经“吃光”了。刘宇对一些AI芯片公司的商业模式有些失望。“他们基本上都是TOVC路线，为了更好的给投资人讲好故事，他们存在的前提是人会不断地募集资金。一些公司真正的商业模式是以筹码的名义拿地，而营收主要来自房地产、政府补贴等。今年4月，寒武纪披露的IPO文件显示，其AI芯片研发投入巨大，但盈利和落地情况堪忧。“分手”后”与曾经的第一大客户华为，在寒武纪的前五大客户中，第一和第二大客户都是政府，存在客户集中度高、TOG高的问题。寒武纪是国产AI芯片的第一梯队，而其财务表现也是整个行业盈利能力的缩影，现阶段能够实现盈利的AI芯片公司还是寥寥无几。外媒报道，美国AI芯片公司WaveComputing濒临破产，已申请破产保护。今年年初，比特大陆的AI芯片业务被曝大幅裁员。以上现象不禁让人对国内外AI芯片企业的生存现状感到担忧。人工智能芯片是资金最多的人工智能垂直领域之一。当资本市场出现较大波动时，影响必然传导至AI芯片初创企业。受2018年下半年开始的资本寒冬、外部不确定环境等因素影响，部分投资者也从“不能忽视AI芯片项目”转变为“不再看AI芯片项目”。资本市场的逐渐理性，给AI芯片创业公司的落地带来了不小的压力。在赚钱之前，他们不得不开始“勒紧”自己的钱袋子。王少军认为，“钱荒”的问题并没有那么严重。他认识的大部分AI芯片公司都发展的不错，有些问题多是业务和战略问题。他认为，市场上优质的AI芯片企业已经逐渐找到自己的商业化定位，具备持续造血的能力。“大部分AI芯片企业还是在认真做产品，认真上线。在目前行业逐渐注重落地、回归业务本质的趋势下，AI行业的发展将逐渐进入一个新的阶段健康的增长趋势。”AI芯片从产品化到商业化存在巨大差距。首先，在技术层面，一款AI芯片问世，是否有完善的工具链，是否有丰富的支持大规模商业部署的软件库，能否与主流的机器学习框架无缝对接。对于用户而言，是否具有良好的可移植性、可开发性和可部署性。更重要的是，如何在行业中扎根。声智科技合伙人&CSO李志勇认为，AI芯片落地的核心点不是技术问题，而是如何实现市场化，完成商业闭环（从技术-产品-用户反馈）。芯片周期长、投资大，形成商业闭环的挑战更大。当消化技术红利的过程满足产品化和用户积极反馈这两个条件时，实施规模才能不断扩大，利润空间才会出现和扩大。而且，就AI的落地而言，目前主要有两种思路。一种是使用带有算法的ASIC芯片，另一种是在云端的通用系统中使用通用芯片+算法。在不同的场景下，这两种方式各有优势。在语音交互场景，声智科技选择了第二种方式，推出了多模态人工智能交互系统SoundAIAzero，可以屏蔽不同底层操作系统的差异，提供简单易用的Skill开发工具和Turnkey软件和硬件解决方案满足万物互联时代不同行业应用的需求。对行业的“深”探索，还需要一定的决心。很多现实场景的需求是无限的，而AI的能力是有限的。需要明确问题的边界，用经济的技术手段解决这些问题后才能实施。例如，人脸识别必须受限于具体的应用场景（包括成像角度、人脸数量等技术限制），这是一个可以实现的问题。如何明确这个边界，是落地过程中的一个难点。“AI公司其实不应该存在，因为AI技术是一套基础支撑技术，是一种软件方法，软件方法本身不能成为商业模式，必须结合具体问题才能成为商业公司。在其他也就是说，未来所有的公司都是人工智能公司。”AI行业资深从业者周凌然（化名）的看法有些非正统，“一个公司如果只有算法，是立不起来的。本质在于如何与领域深度融合，如何真正为用户带来终极价值”。从这个角度考虑AI芯片的未来发展。一家AI芯片企业，未来不能只有AI芯片，与行业深度融合，成为现场解决方案公司，或许才是成功之道。AI芯片在各种场景下的应用给用户带来的实际效果，应该是商业化结果的最终检验标准。两大应用趋势：云端向边缘扩展，追求软硬件协同根据部署位置，AI芯片可分为云端部署和终端部署两种。经过几年的发展，AI芯片已经不局限于云端，边缘AI芯片已经成为各家厂商竞争的垂直赛道，越来越多的AI应用部署在终端设备上。目前，云市场发展逐渐成熟，巨头盘踞，格局难以撼动。对于初创企业来说，应用场景更广阔的终端设备市场还是有很多机会的。例如，智能手机是目前应用最广泛的边缘计算设备，自动驾驶也是边缘AI计算的重要应用场景。边缘计算被视为下一个人工智能战场。另一方面，边际端的市场空间更大，更容易给投资者“讲故事”，吸引资本眼球。中金公司研究数据显示，2017年边缘计算AI芯片市场规模为39.1亿美元，到2022年，这一数字将增长至352.2亿美元，5年增长10倍。近年来，边缘计算呈现出巨大的增长需求，**尤其是在数据量大、响应要求低的应用场景中。**边缘计算具有数据处理速度更快、业务处理实时、成本更低、网络带宽成本低、保护数据隐私和安全等优点。做边缘芯片最难的地方在于应用场景。除了集中的自动驾驶场景，其他很多场景都非常“碎片化”。现阶段AI边缘芯片的主要挑战来自于边缘算力需求的不一致性和边缘算力平台的差异，导致难以统一定义边缘AI芯片的性能和功能需求。王少军观察，目前市场上有很多场景定义的专用芯片。“市场在向专业化、细分化方向发展，这对于掌握核心技术、经得起市场考验的AI芯片企业来说，是一个好现象。”另一个趋势是，很多AI芯片公司越来越追求软硬件协同能力，很多原本做芯片的公司开始从硬件切入软件，一些算法公司开始深入硬件布局。协同意味着更高的有效算力，明确重要的落地场景是软硬件协同的前提；另外，集成过程涉及软硬件两个不同的技术团队之间的协同，在磨合期间，团队必须充分磨合，相关的工具支持也必须跟上。软硬件协同的概念是同时优化软件（算法）和硬件，以达到全局最优性能。在设计过程中，面临很多约束和不确定性，并且设计空间大，难以得到最终结果的最优解.实现所有网络的最优性在技术上是困难的。因此，芯片设计应以有效加速大多数算法为目标。AI芯片从未成功？回顾中国AI芯片的发展，2015-2016年是业界公认的小高潮。卷积神经网络和深度学习的突破，掀起了人工智能芯片研究和风险投资的热潮。深度学习方法在很大程度上降低了算法计算需求的多样性，为AI芯片提供了明确的技术可行性；算法准确率的有效提升，让AI产业落地成为可能。一时间，大量创业公司涌入，巨头企业纷纷加码投资，资本也疯狂助推。尤其是2018年，AI芯片大热，多家初创公司宣布获得融资。2017年到2019年，在王少军看来，是AI芯片技术和产品研发“百花齐放”的三年——市场依然是英伟达一统天下，很多新技术、新架构、新模式已经出现，AI场景需求定义更加清晰，云边端基本成为共识，但不同技术路线对不同场景的适应性还没有得到充分验证。2019年是芯片行业的转折点。资本寒冬、华为断供、多家科技企业被列入实体清单等事件，凸显“卡脖子”危机。在不确定的国际形势下，AI芯片产业链又增添了难以预料的发展变数。对于有实力、能够完成替代的国产芯片企业来说，未必是一个发展的契机。与几年前相比，AI芯片行业的热度下降了不少。当热度逐渐降温，业界也开始反思AI芯片行业是否存在一些“概念炒作”、噱头和泡沫艾瑞咨询在中指出，当前AI芯片行业已接近Gartner技术曲线泡沫的顶端。“AI芯片这三四年的发展，我觉得是‘泡沫’，站不住脚。泡沫主要体现在AI芯片是一个伪命题，不是真正的需求。过去20年多年来，人工智能硬件的大部分尝试都失败了，可能有一些共同的原因。到目前为止，我还没有感受到AI芯片的根本差异。因此，我怀疑这一次，从深度学习入手在当前AI浪潮的背景下，AI芯片的硬件化也会失败。”AI技术专家冯辉（化名）向InfoQ表达了自己的判断。他认为，AI芯片研发了这么多年，从来没有成功过。如何定义一个AI芯片的“成功”？InfoQ询问了几位受访专家的意见。一些专家不同意“它从未奏效”的说法。在产品层面，历史上涌现出不少成功的AI芯片产品，如谷歌的TPU、HTPU，英伟达的P100GPU，高通的骁龙AI芯片等产品。“如果只用这个（产品）标准，历史上那些AI芯片就可以算是‘成功’了，”冯辉补充道，“我认为AI芯片的成功不在于有没有做出来，而是有没有用或不。。这里的“可用”是指与通用芯片相比是否具有明显的成本优势”。值得注意的是，在技术层面，由于AI芯片是一项新技术，如何定义AI芯片是技术上的成功，业界尚未形成统一的技术共识。“成功的定义可能不一样，任何一家AI芯片公司，如果按照自己的技术理念成功流片，都可以认为在技术上取得了一定的成功。另外，如何让自己产品的技术特性充分适应市场需求场景，为目标市场提供不可替代的、更高的性价比，然后有效落地，这是基于商业的考虑。”王少军表示。至于商业化成功与否，未来还需要时间去验证，这在一定程度上取决于AI芯片落地的速度。当前环境给了具备产品优势的芯片企业突围的机会.经过近5年AI芯片的高速发展，2020年AI芯片进入研究和规模化落地的关键一年，卢涛认为，上半年的疫情利弊参半对于AI芯片落地中心等算力基础设施的建设过程；挑战在于那些叫嚣做AI处理器的企业是否真的能做出来，真正去到现场，如果没有实物“展示”，后期持续投资可能面临巨大挑战，“讲故事”、拼技术概念、拼背景光环的时代已经过去，AI芯片进入第二个大时代到了市场验证期，是时候拼产品效果和用户体验了。这将伴随着一场大洗牌的过程，那些找不到落地场景、盈利能力不足、无法在技术和商业模式上提供核心价值的玩家，最终可能面临被淘汰的命运。”市场将基于不同的行业保留了2-3家龙头企业，以及几家特色鲜明的中小企业”，王少军向InfoQ预测了这场淘汰赛可能结束的局面。不容忽视的是，人工智能芯片仍处于起步阶段。快速增长不可避免地伴随着“阵痛”。未来虽不可知，但可期。“我觉得现在应该是做芯片的最好时机，AI芯片还有很长的路要走。”李志勇认为，抓住当前的机遇是重中之重。
