本文转载自雷锋网如需转载,请在雷锋网官网申请授权。从2016年前后的AI芯片创业热潮至今,已经过去五年多了。从团队组建,到芯片设计,再到产品发布,AI芯片企业是时候交出答案了。Graphcore大中华区总裁兼全球首席营收官陆涛Graphcore大中华区总裁兼全球首席营收官陆涛告诉雷锋网,“2022年,AI芯片公司之间的竞争会更加激烈,因为不同的公司选择不同的策略和路径,今年可以看得更清楚。”事实上,从2020年开始,大部分AI芯片企业都开始了芯片落地。但由于AI芯片与传统芯片存在明显差异,芯片供应商与用户认知存在差异,加之疫情影响,全球芯片紧缺,AI芯片的落地和规模化使用面临挑战许多挑战。2021年,业界将更加关注AI的部署,包括机器学习框架、支持的模型、集群管理和调度管理等。成为AI芯片领导者的三大秘诀是什么?摆在AI芯片企业面前的七步AI热潮催生了一大批芯片初创企业。初创企业要想成功实现一款新型AI芯片,挑战现有巨头,就好比攀登珠穆朗玛峰。陆涛认为,如果今天的巨人在珠穆朗玛峰上,他想要达到巨人的高度,需要爬七级台阶。第一步是组建团队,第二步是宣讲理念,第三步是设计芯片,第四步是有芯片送样给客户测试,第五步是有产品和实施它们,第六步是有产品,落地多,第七步是市场占有率大。陆涛认为Graphcore介于第五和第六步之间。这个阶段的公司表明它已经解决了许多技术挑战。人工智能计算与传统CPU有很大不同。在过去的5-10年里,CPU的应用已经很明确了,比如Web服务、数据库服务、存储服务等。但人工智能整体应用的创新和研究较多,整体上具有很强的动态性。在这样的情况下,AI芯片的落地难度更大。步骤大致可以分为三个步骤。一是利用AI芯片的性能优势吸引客户。接下来,客户会考虑软件移植的难度和时间。经过验证,才能实现大规模部署。这个过程可以说是漫长而充满挑战的。其中一个非常大的挑战是人工智能芯片供应商和用户之间的认知差异。“从我们的角度来看,虽然这种明显的差异有所改善,但挑战依然存在。”陆涛说,“比如很多用户可能觉得我们的IPU性能好,想在不修改代码的情况下迁移到IPU。这需要我们在软件和生态方面做很多工作。“AI软件和生态的建设,需要对一个特定的应用领域有比较完整的理解,实现整个业务端到端的协同,不仅是AI,还有AI芯片与其他设备、系统的协同,运维、管理等陆涛指出,“作为计算平台的提供者,生态对于让终端用户用好我们的平台非常重要,生态建设可以降低用户使用的门槛。”同时,垂直案例也很重要,通过“打样”,可以显着加速在某个行业的应用。当然,加强与AI平台厂商的合作也同样重要。AI中有两类用户领域,一种是AI开发者,可以结合案例做相应的开发,另一种是AI平台企业,可以将AI技术打包供其他人员使用。“对于开发者或者研究人员来说有计算机背景的射手,可以基于TensorFlow、PyTorch、百度飞桨进行编程。如果没有这个能力,就需要使用更高级的框架,比如HuggingFace,来降低开发门槛,简化开发。两者的开发难度存在显着差异。如果用PyTorch实现一个业务,可能需要200行代码,但是如果用HuggingFace,可能50行代码就可以完成。成为AI芯片领导者的三个关键不难发现,要实现AI芯片的规模化落地,缩小AI芯片供应商与用户之间的认知差距是关键,而关键是软件的建设和生态。但要成为AI芯片领域的佼佼者,陆涛认为有三个关键:预期+一点风险+一点运气。”2016年Graphcore成立时,只能迎头赶上。对于新的领域,如果能提前预知,就可能在该领域处于领先地位。陆涛详细解??释道。2016年,传统的机器视觉模型ResNet已经存在。这时候,Graphcore需要迎头赶上。它基于自然语言处理的底层技术,但业界有趋势将Transformer用于计算视觉,Graphcore率先支持。到2021年下半年,一些基于Transformer的视觉模型,比如ViT,将会流行起来。由于提前预测,Graphcore对新的基于Transformer的视觉模型和GNN有很好的支持,很多创新和前沿的模型支持比GPU更好。得益于创新的IPU硬件和不断完善的Poplar软件生态,Graphcore在2021年将有众多应用案例。2021年下半年,安洁数字将IPU用于天气预报、精准灌溉、防灾减灾等领域。神石科技已完成分子动力学仿真软件DeePMD-kit向IPU硬件的迁移,探索基于分子动力学仿真的科学计算、药物设计、材料设计、新能源等场景。在金融保险领域,Oxford-Insman使用IPU预测股票价格;Tractable与Graphcore达成合作,加速事故和灾难恢复。电信方面,Graphcore与韩国电信合作发布IPU云。在城市环境可持续发展领域,盛哲科技以IPU为基础开展城市可持续发展应用。在医疗和生命科学领域,Graphcore与斯坦福大学医学院合作,利用IPU进行了以“医疗+隐私计算”为核心方向的一些研究和探索。但这些应用案例多为前沿技术和应用的探索,并未实现大规模商业应用。对此,陆涛表示,“在商业领域,我们有一些已经有规模化应用的客户,他们更关注自己的业务给客户带来的价值,很少和技术厂商一起发布消息。”研究更加开放,研究人员也希望成果能够被更多人看到,自然会有更多案例可以分享。”他还透露,2022年,Graphcore将发布部分国内公有云厂商的IPU产品,以及新硬件产品的发布,Graphcore还将进一步深化在一些相关AI应用领域的合作,比如AI辅助科研、自动驾驶等,这些都是他们在2022年在AI应用或者垂直领域更重要的方向。值得一提的是,Graphcore的IPU和CPU硬件的解耦,将有助于IPU更好的拓展市场。比如在BERT训练中,Graphcore使用的server与2个CPU和64个IPU,比例是1:32,在计算机视觉模型里基本是1:8CPU和GPU的固定比例,比如1:4??或者1:2。写在最后,AI芯片的竞争最终会演变成生态和商业的竞争。在AI芯片的早期,虽然有很多帕参与者,都处于团队组建和产品开发阶段,AI芯片企业之间没有真正的竞争。随着AI芯片的发布和落地的推进,AI芯片企业之间的竞争才真正开始。当越来越多的领域和客户开始关注人工智能的大规模应用和落地,自然会加剧人工智能芯片企业之间的竞争。这时候,不再是简单的硬件性能比拼,软件和生态更能打动终端用户。.2022年,我们会看到AI芯片企业的竞争越来越激烈,我们也会慢慢看到AI芯片企业的真正实力。雷锋网
