近日,商汤科技智能产业研究院与中国信息通信研究院云计算与大数据研究院、中国智能算力产业联盟、人工智能算力产业生态联盟联合发布《新一代人工智能基础设施白皮书》(以下简称《白皮书》)。
《白皮书》不仅明确了“新一代人工智能基础设施”的定义、特征和价值,还首次提出了“新一代人工智能基础设施评估体系”,为人工智能2.0的发展提供了重要参考计算行业。
新一代AI基础设施成为AI2.0时代的“新基建”。
数据显示,过去四年,大模型参数数量以年复合增长率%增长,AI算力需求增长超过15万倍,远超摩尔定律。
传统以CPU为中心的计算基础设施已经无法满足大模型、生成式人工智能的新要求。
大模型训练对数据质量和效率的需求,以及生成式人工智能企业应用对MaaS(大模型即服务)的需求,也对人工智能基础设施提出了新的要求。
AI 2.0时代,需要新一代基础设施来支持大型模型的训练和推理以及生成式AI应用的大规模落地。
其计算、存储、网络和数据服务等核心要素需要细化和重新聚焦。
架构而不是简单的服务器或 GPU 实例堆栈。
《白皮书》明确新一代AI基础设施的定义:以大模型能力输出为核心平台,整合计算资源、数据服务和云服务,专门为最大化大模型和生成式AI应用的性能而设计:数据准备和管理、大模型训练、推理、模型能力调用、生成式AI应用部署。
企业使用下一代人工智能基础设施来开发和运行生成式人工智能业务和客户应用程序,以及训练和微调基础模型和行业模型。
《白皮书》指出,新一代人工智能基础设施建设将降低大模型开发应用门槛,在政企服务、产业和科研创新等领域创造更大社会价值:面向产业,加速传统产业上下游各环节全面推进。
企业智能化转型催生新业态、新模式不断涌现。
对于科学研究来说,可以加速科学实验的自动化和智能化,激发人工智能驱动的科学研究新范式(AI for Science)。
政务方面,将利用原本分散、碎片化的政务应用,通过“一站式服务”提高政务服务质量和效率。
商汤科技首次提出新一代AI基础设施评估体系,引领新一代AI基础设施。
当前,新一代人工智能基础设施市场正处于高速竞争的初级阶段。
云计算、AI原生、硬件系统等各个厂商都有各自的优势。
。
为了给企业用户人工智能基础设施选型提供可靠的指导,《白皮书》首次提出了“新一代人工智能基础设施评估体系”。
通过产品技术、战略愿景、市场生态三个维度和十二个评价指标,对AI基础设施厂商的综合能力进行全面的定性和定量评估。
《白皮书》评选出12家最具代表性的AI基础设施厂商。
商汤科技新一代人工智能基础设施——SenseCore SenseCore大设备,各项评价指标均高于厂商平均分,在市场反应、市场认知度、产品策略、工程建设四项评价指标中获得满分。
,成为新一代AI基础设施市场的领导者。
《白皮书》指出,商汤科技在产品服务能力上展现了强大的产品实力和技术积累。
它不仅提前布局了计算基础设施,而且在MaaS平台和自有大模型业务的支持下,形成了一套完整的AI基础设施。
产品架构满足客户大规模模型训练和生成式AI应用大规模落地的需求。
作为商汤科技推出的AI基础设施产品和解决方案,SenseCore大设备目前整体算力规模已达到P级,在支持商汤科技自有大模型研发的同时,也支持外部客户训练大模型和应用部署。
今年以来,已在大型设备上训练了超过10万个参数从数十亿到数千亿的大型模型,实现了业界领先的技术迭代进度,支撑了数十种生成式AI应用。
商汤科技大设备全面支持大模型训练推理、生成式AI和应用基础设施,激发“智能基础设施创新”,加速大模型和生成式AI落地《白皮书》以商汤科技基于AI大设备的多场景实践案例为基础例如,讲解了从大规模模型训练到生成式人工智能应用,再到区域智能计算中心的建设和运营的整个过程,并深入挖掘了整个生命周期中业务创新的价值。
大模型训练场景商汤科技大设备为商汤科技自主研发的“RiRiXin SenseNova”大模型系统的训练迭代以及1.5万亿代币和1亿中文优质数据提供强大算力支撑,并启动讨论大语言模型、AIGC等大型模型,并在多个权威大型模型评测榜单中名列前茅。
商汤科技还帮助一家行业领先的认知智能公司构建了高性能计算平台,以提高模型训练速度和效率。
已成功推出亿参数大模型,快速满足不同领域、场景的需求。
生成式AI应用场景依托商汤科技的大设备。
商汤科技联合中国公共教育发布虚拟数字讲师“小鲁老师”。
与传统人工直播相比,不仅录课成本降低80%,课程种类也增加2~3倍。
实现教学质量和效率的双重提升。
商汤科技还帮助微博打造了“大营销模式”,让每个博主都可以拥有自己的AI营销助手。
短短几个月,众多微博达人利用AIGC生成了69万篇文案,采用率高达95%。
智能计算中心建设及运营 今年10月,商汤科技与重庆南岸区共同打造以本地化算力为核心的“重庆人工智能计算中心(AIDC)”。
一期建设峰值算力达到Petaflops,为西南地区各行业和科研机构提供AI算力、大模型训练、推理部署和应用开发等服务。
同时,商汤科技还助力福建省建设大数据算力平台。
第一阶段已建成PFLOPS算力规模,一批领先的数字生态系统企业入驻,有望推动生成式AI技术在医疗、金融、制造等各行业的应用。
中间的着陆点。
《白皮书》最后指出,随着新一代人工智能基础设施的边际成本持续下降、边际效益持续增长,人工智能将惠及所有人。