这几天,“微软向OpenAI注资数百亿美元”的消息疯了。作为一个没有商业模式的公司,OpenAI怎么可能估值上百亿美元?投资者就这么容易上当吗?其实如果把OpenAI背后的ChatGPT拉出来,大家也能稍微明白一点。这个语言模型“顶流”最近已经被大家熟知了。而近水楼台的微软,早已在互联网巨头混战中悄然拿下一座城池。刚刚说ChatGPT将整合到自家的搜索引擎Bing中,随后又放出了ChatGPT计划加入Office“Office全家桶”的大片。AIGC革命再次来到算力时代。2022年是AIGC革命的元年。DALL·E2的诞生让《文森特的图画》火了整整一年,随后《稳定的扩散》和《中途》也激发了无数人的艺术灵感,甚至让不少画家感受到了“失业危机”。年底,ChatGPT在全民掀起了一场AIGC风暴。虽然是压轴戏,但“强化学习”(RLHF)赋予它的魔力却成功掀起了全民狂欢。刚才我们说的这些app,虽然看起来很花哨,但是还是有知名大牌支持的。众所周知,对于一个大型模型来说,无论是前期的训练还是后期的推理,都离不开庞大的“算力”。比如基于DALL·E2的“人气炸鸡”ChatGPT和GPT-3,以及国内自主研发的源1.0、启蒙、文信等,不仅在流量上达到了千亿级别。参数,而且数据集的规模也达到了TB级别。要处理这些“庞然大物”的训练,至少需要投入超过1000PetaFlop/s-day(PD)的计算资源。难怪OpenAI在完善GPT-3之前,就要求微软斥资10亿美元独家定制一台当时世界排名前五的超级计算机。但问题是,并不是每个需要大量AI算力的企业或大学都能花巨资建设自己的“人工智能高性能计算中心”。那么,如果我们换个思路,让算力更“普惠、包容”,是否能达到同样甚至更好的效果呢?于是,2020年12月,国家信息中心和浪潮信息联合发布了《智能计算中心规划建设指南》。其中,提到了一个全新的概念——智能计算中心(简称智能计算中心)。什么是智能计算中心?为了更好地解决人工智能领域的问题,智能计算中心的发展需要基于最新的人工智能理论和先进的人工智能计算架构,以人工智能芯片、人工智能服务器、人工智能集群为载体的计算能力。首先,目前主流的AI加速计算主要采用搭载GPU、FPGA、ASIC等异构AI加速芯片的CPU系统。由于GPU芯片中大量原本为图形计算而设计的算术逻辑单元(ALU)能够为以张量计算为主的深度学习计算提供良好的加速效果,因此受到学术界和工业界的广泛欢迎。随着应用越来越深入,GPU芯片本身也针对AI的计算特性进行了针对性的创新设计,比如张量计算单元、TF32/BF16数值精度、TransformerEngine等,越“专”AI计算加速芯片主要脱胎于GPU芯片。TeslaDojo人工智能训练芯片其次,作为智能计算中心算力单元的AI服务器,采用CPU+AI加速芯片的异构架构,通过集成多颗AI加速芯片实现超高计算性能.为了满足各领域场景和复杂AI模型的计算需求,AI服务器对计算芯片的互联互通性和可扩展性也有着极高的要求。最后,智能计算中心还需要为业界主流、开源、开放的软件生态提供足够的支持。比如TensorFlow和PyTorch,用于开发AI算法的深度学习框架,以及为适应CV、NLP等特定场景的开发而构建的一系列开源库。智能计算中心的整体架构不过与国外大公司定制的高性能计算中心不同,智能计算中心实际上是一个面向大众的基础设施,可以更好地解决无法建设或使用算力的问题。最直观的是,智能计算OS(intelligentcomputingcenteroperatingsystem)作为“神经中枢”,就是让智能计算中心对算力资源池进行高效管理和智能调度,从而更好地为用户提供算力。外面的世界。、数据和算法等服务。如今,距离2020版《智能计算中心规划建设指南》发布已经过去了两年时间,我国智能计算中心的发展进入了一个新的阶段。为此,国家信息中心与浪潮信息联合开展与时俱进的研究,并于2023年1月推出更新的《智算中心创新发展指南》(以下简称《指南》)。计算中心?智能计算中心是数字经济时代推动产业转型升级、优化产业结构、提升城市竞争力的关键基础设施,为快速增长的人工智能算力需求提供了必不可少的支撑。具体可以分为四个方面:推动人工智能产业化、人工智能赋能产业、助力智能治理、促进产业集聚。人工智能产业化的一个重要例子就是自动驾驶。在自动驾驶场景下,需要借助AI技术,使车辆能够像人类驾驶员一样准确识别驾驶环境中的关键信息,预测周围运动单元的潜在运动轨迹。在训练算力消耗方面,自动驾驶感知采用的认知模型远大于一般的计算机视觉感知模型。例如,特斯拉的L2级FSD自动驾驶融合感知模型在训练过程中使用了数百万路路采集视频,算力投入约为500PD。而且,随着自动驾驶级别从L2提升到L4,对算力的需求也会进一步增加。对此,智能计算中心提供的普惠算力可以大大降低自动驾驶所需的算力成本。2022年,有一个非常流行的概念,叫做“AIforScience”。这是一种新的科学研究范式,意味着科学家们将人工智能技术作为一种生产工具。今年最著名的科学人工智能示例之一是DeepMind开发的AlphaFold2。截至目前,AlphaFold2已经能够预测超过2亿种蛋白质结构,几乎涵盖了整个“蛋白质宇宙”。借助AlphaFold2,单个蛋白质结构的预测时间缩短至数分钟,准确率达到92.4%。AlphaFold2的开发得到了巨大的计算能力的支持。仅在训练数据准备阶段,AlphaFold2就消耗了约2亿核时的CPU算力,训练过程中消耗了约300PD的AI算力。智能计算中心非常适合AIforScience的算力需求,将成为高校和科研院所支撑高质量科研的重要基础设施。智能治理此外,智能计算中心还可以为城市公共服务和智能治理提供智能计算能力支撑。产业集群智能计算中心可聚合本地人工智能研发优势、人才优势、产品优势和产业投资,实现产业链协同,促进产业集群发展。智能计算中心产业链如今,智能计算中心已成为提升国际竞争力的关键基础设施。众所周知,人均GDP指标可以衡量一个国家的经济发展程度,人均计算能力的高低也可以衡量一个国家的智能化水平。根据《2021-2022全球计算力指数评估报告》,全国算力指数与GDP走势呈显着正相关。算力指数每提高1点,数字经济和GDP将分别增长3.5‰和1.8‰。算力指数与GDP回归分析趋势据研究测算,“十四五”期间,当智能计算中心达到80%的应用水平时,全市对智能计算中心的投资可带动增长人工智能核心产业增长约2.9-3.4倍,带动相关产业增长约2.9倍。36-42倍,城市/地区智能计算中心建设投资对创新产出的贡献率约为14%-17%。不难看出,智能计算中心对于城市经济发展已经形成了一股不可忽视的力量。智能计算中心项目的经济效益和社会效益正是基于这些原因。智能计算中心的概念一经提出,便引发了建设热潮。据统计,全国有30多个城市正在建设或拟建设智能计算中心。然而,问题也随之而来。不可忽视的是,在如火如荼的建设过程中,这些智能计算中心也暴露出不少问题和挑战。首先,我国对智能算力的需求与日俱增。《2022-2023中国人工智能计算力发展评估报告》数据显示,2021年我国智能算力规模将达到155.2EFLOPS(FP16),预计到2026年我国智能算力规模将达到1271.4EFLOPS。未来80%的场景都将基于AI,其占用的大部分计算资源将由智能计算中心承载。我国智能计算能力的发展其次,围绕算法的服务模式也需要完善。2011年以来,全球人工智能龙头企业和研究机构纷纷加入人工智能大模型的研究,模型参数大幅增加。短短三四年时间,参数规模从数十亿迅速突破到万亿,同时出现了很多具有代表性的大型模型,比如谷歌发布的BERT、OpenAI发布的GPT-3。传统计算范式的改变,必然会推动智能计算中心的服务模式从提供算力向提供“算法+算力”转变。最后,现阶段概念认知不清晰、建设标准不统一、应用场景不足、运营模式不成熟等问题也直接影响智能计算中心的发展。如何处理?对此,《指南》的解决思路是:1.普惠包容;2.开放兼容。首先,我们来谈谈什么是“普惠包容”。普惠普惠意味着充分发挥公共基础设施的社会价值,既要满足用户对通用算力的需求,又要满足不同用户在不同场景下对多样化算力的需求。具体来说,智能计算中心要朝着标准化、低成本、低门槛的方向发展,让智能计算像水电一样成为一项基本的社会公共服务,满足不同用户、不同场景对算力的多样化需求。.二是要“开放兼容”。具体来说就是开源开放,培育生态。以开源硬件和开源软件为核心,融合多种算力,实现算力的聚合、调度、释放,让智能计算中心“用得好、用得好”。同时,要加强对智能计算中心重点软硬件产品的研发支持和规模化应用推广。智能计算中心建设架构为实现算力服务的普遍高效利用,即如何“用好、用好”智能计算中心,《指南》指出智能计算中心建设计算中心还需要构建“算力基础设施、算法基础设施、服务智能件、绿色设施”的“四化”技术路线。将安全的算力资源对外开放,让AI算力像水电一样成为城市公共基础资源,供政府、企业、公众自主获取。提供行业预设算法,让更多用户享受普惠智能计算服务hms,构建预训练大模型,推动算法模型不断升级,提供专业化的数据和算法服务。、实现“带着数据,带着结果走”的效果:服务智能件,意味着智能计算中心的发展将从传统的硬件和软件向“智能件”升级。“智能件”是指智能计算中心为人工智能推广应用而提供的中间件产品和服务。“智件”的构建,通过可视化的操作界面和低代码甚至无代码的开发模式,为用户提供功能丰富、便捷的人工智能算力调度、算法供应和个性化开发服务。最后,要实现绿色设施。目前的主要发展趋势是采用液冷技术。展望未来如今,以AIGC、元界、AIforScience为代表的新兴场景正在走进我们的日常生活,为我们的未来带来无限可能。与此相应,智能计算中心建设布局的浪潮正在全国迅速掀起。对于大多数企业,尤其是中小企业而言,智能算力的普惠性大大降低了创新门槛。相信在不久的将来,我们很快就会见证“用数据输入,用智能输出”。智能计算将真正像水电一样惠及所有人。报告链接:http://scdrc.sic.gov.cn/archiver/SmarterCity/UpFile/Files/Default/20230111181640567177.pdf
