目前整个AI芯片市场都是围绕深度学习展开的。深度学习(DL)是机器学习技术最成功的例子，它使AI应用程序在现实世界中真正有用。如今的AI芯片市场将所有的目光都集中在深度学习的加速上——无论是训练过程还是推理过程，加速都成为了核心诉求。AI芯片市场的参与者也在快速增加：在最近的一份研究报告中，我们统计了全球约80家初创公司，发现投资者为此投入了105亿美元，而34家成熟玩家已经在苦苦挣扎竞争。显然，这种状态不可能持续太久，但我们有必要对AI芯片市场进行分析，更好地理解为什么一切都是这样，未来可能会发生怎样的变化，以及这些意味着什么。时间回到2010年左右，英伟达推出了图形处理单元（GPGPU）领域的高端通用计算（现为GPU）解决方案，将大型神经网络的训练时间从数月缩短至数周，并进一步缩短数天甚至数小时最终推动了深度学习技术的兴起。英伟达围绕AI计算市场拓展了数十亿美元的新业务，也促使更多的芯片制造商和芯片架构师考虑如何从头开始构建一套专用于运行AI工作负载的架构，并利用这一点更好地支持更多后续工作负载。今天的人工智能工作负载已经集中到深度学习的单一领域，这也是由市场需求驱动的。但市场的需求呈现出多种多样的现象。虽然大多数人工智能训练发生在数据中心（包括超大规模云环境）和工作站上，但人工智能推理无处不在：在云端、工作站和边缘。其中，边缘位置最为重要。图1：AI硬件加速器市场细分应用AI芯片市场细分无论具体选择哪个领域，初创企业面临的竞争都将异常激烈。我发现大家可以参考图1把整个市场理解为一个三角形结构，每个顶点都有自己的一套标准来代表特殊的市场需求。最高点是数据中心、云和高性能计算（HPC）环境对人工智能芯片的需求。Cerebras很好地占领了这个市场，制造了世界上最大的芯片——晶圆级引擎。这个细分市场只追求计算性能的最大化，功耗和成本是次要的。该领域初创企业面临的最大挑战在于，超大规模企业和老牌厂商已经牢牢掌握了自己的优势。Nvidia不断发布新的和改进的架构。其最新版本Ampere于今年5月正式上线。登场。基于推理的三角形下，有芯片可以保持一定的准确率，对精度要求不高。约束条件不同：芯片尺寸不能太大，延迟要低，功耗要尽可能低，单位成本要低且可控。正因如此，边缘应用市场可以说是创业公司比较活跃的领域。这一领域的竞争并没有英伟达等巨头公司的参与，他们也明确表示无意参与大规模商用推理芯片市场。但较弱的竞争对手实际上意味着客户拥有更强的话语权和实力，这些客户甚至有能力随时成立或收购初创公司。AI芯片未来将走向何方？正如我们之前提到的，AI芯片领域的竞争者太多了。事实上，图1中每个顶点附近都有厂商盘踞。在上述因素中，厂商需要打造成熟的软件开发栈，树立参与市场竞争的明确意愿，同时探索可行的嵌入方式深度学习应用到广泛的产品中。市场波动已经开始显现，WaveComputing今年4月的破产宣告就是一个例子。但好消息是，激烈的竞争正在为我们带来更快更好的AI芯片。人工智能研究人员可以从中受益，安心运行他们各种新颖的模型设计，未来必然出现的新算法将逐渐取代目前深度学习的霸主地位。最重要的是，对于希望利用人工智能重现人脑功能的研究人员来说，深度学习已经是一条显然走不下去的路。因此，下一代算法可能会迎来重大变革，同时对加速技术的种类提出新的要求。在现实世界的用例中，深度学习应用的广泛性为这些芯片带来了数十亿美元的市场。随着5G设施的普及，市场规模将不断扩大，对AI硬件加速器的需求不会动摇。AI芯片市场的合理化进程已经开始，未来的竞争格局将随着下一代AI算法的出现而改变——但具体时间谁也说不准。
