当前位置: 首页 > 科技赋能

微软打造全栈集成平台和工具,降低AI开发门槛

时间:2024-05-22 12:15:47 科技赋能

文章|芯源智东西讯 6月21日消息,昨天下午,微软亚洲研究院(MSRA)举办了一场关于AI系统的媒体研讨会。

为助力AI发展,此次大会展现了微软致力于打造优化的系统、全栈集成开发平台和全周期集成开发套件。

优化的系统有助于加速深度学习计算,全栈AI集成开发平台可以让AI开发更高效、更快捷,全周期集成开发套件为开发者提供大量方便好用的高端AI工具和服务。

1.优化系统,方便深度学习计算。

微软亚洲研究院副院长、人工智能系统联合中心主任周立东博士一开始就强调了系统的重要性:“没有系统,一切都是海市蜃楼、空中楼阁。

”根据科普中国的定义,系统是指将分散的事物有序地排列、排列,形成一个整体。

通俗地说,该系统就像建筑物的地基,是建筑物能否长年屹立的关键。

在计算机发展过程中,每一次重大突破背后都有大量的系统理论和设计作为持久的驱动力。

周立东博士认为,系统研究和创新正在进入黄金时代。

到2020年,人工智能应用将覆盖人类生活的方方面面,将信息转化为有用的服务,为人类带来福祉。

深度学习本质上是一门以统计学为基础的科学,依赖于强大的计算能力,对人工智能的发展起着决定性的作用。

训练模型时,需要考虑样本大小、网络复杂度、计算时间等问题。

要优化深度学习计算,首先要减少大量的通信开销和逆行开销;其次,我们需要获得快速高效的计算方法,不仅可以最大化多机并行性,还可以提高GPU等单个计算单元的效率;最后,实现系统自动软件优化也很关键,让用户更容易操作,降低AI研发门槛。

针对上述优化方式,微软展示了三种系统优化路径。

1. RDMA加速分布式深度学习训练。

多机之间的通信开销是分布式训练的主要瓶颈。

吴明高级研究员介绍了一种硬件网络技术,RDMA网卡(Remote Direct Memory Access,可以绕过TCP/IP协议栈进行通信,远程访问内存时不需要远程机器上CPU的干预)。

目前,很多公司将深度学习作为目标应用的GPU集群都部署了这样的网络。

为了更好地利用RDMA的能力,微软巧妙地设计了零拷贝通信机制,直接将Tensor数据传输到接收端。

经过在TensorFlow上的实验,该方法在一系列神经网络模型上的收敛速度提高了2-3倍。

2、内核融合带来性能的大幅提升。

内核融合的主要思想是如何自动优化任意深度学习网络模型,提高单个计算单元的计算效率。

上图是在三个平台上训练循环神经网络RNN的实验结果。

从右图可以看出,内核融合后的运行速度远低于Tensorflow和Google XLA上的运行速度,实现了约10.9倍的性能。

加速。

3.扩展API以简化压缩和量化过程。

微软正在尝试扩展 TensorFlow API,以便用户可以直接控制模型脚本中的压缩和量化。

另一个想法是将输入数据异步复制到CPU以掩盖数据复制的开销。

这种方法需要与核融合相结合。

如果您想了解更多从系统层面优化深度学习计算的信息,可以访问链接:Platform for AI (OpenPAI),它希望为深度学习提供一个优化的大规模AI集群管理平台,让AI落地??堆栈简单、快速且可扩展。

5月22日,微软亚洲研究院联合北京大学、中国科学技术大学、西安交通大学、浙江大学等四所国内顶尖大学,共建新一代人工智能开放科研和教育平台推动中国人工智能领域的科学研究和教育。

发展。

OpenPAI是MSRA为此教育平台提供的三项关键技术之一。

中国科学技术大学基于OpenPAI搭建的私有云平台已取得阶段性成果,大大减轻了科研人员的工作量。

未来,OpenPAI将继续拓展和支持类脑智能技术及应用国家工程实验室的科研工作。

如果您想了解更多关于Open API的信息,可以访问链接:for AI:为了快速上手AI开发,Tools for AI由微软中国研发团队主导,为开发者提供业界首个全平台、全功能的AI工具。

-人工智能的软件产品生命周期。

集成开发套件。

微软在 5 月 21 日举行的 Microsoft AI Innovate 大会上推出了这款新工具。

Tools for AI 具有一键安装功能,可与 Visual Studio (Code) 配合使用,为开发者提供集成的 AI 开发环境,让他们能够获得开始很快。

该工具还支持多种云资源,可以充分利用云计算资源加速训练。

此外,微软还提供统一的可视化界面,方便开发者使用完整的AI开发生命周期管理功能,并允许用户利用预先开发的高端AI模型和服务,例如微软认知服务。

Tools for AI致力于为开发者提供熟悉、一致、开放的开发环境,快速实现AI开发全周期。

不仅帮助开发者灵活运用AI技术解决行业重要问题,也有助于提升多方科研技术水平。

也将为中国人工智能的发展提供更大的动力。

要了解有关 AI 工具的更多信息,您可以访问链接:网络智能)。

NNI定义了一种新的搜索空间语言,允许一键部署在不同的云服务或本地空间上,底层支持不同的深度学习框架。

它可以自动分析数据并使用工具包自动迭代,为用户提供更便捷的开发流程。

用户可以将代码发布到不同的集群上,通过评估找到更好的超参数组合和模型结构。

可视化工具可以帮助用户直观地查看超参数组合和时间等数据。

该工具很快将以开源形式提供给所有人。

总结:让开发变得简单,让智能触手可及。

微软亚洲研究院的研究人员提出了未来系统的愿景:无形无界的系统、无处不在的智能。

设计系统非常复杂,每一步都会造成损失,所以每一步都必须统一、准确地考虑。

研究人员正在努力创建简单的抽象和新的平台工具,希望从系统层面进一步推动深度学习乃至人工智能的发展,力争在计算方法的高效性、兼容性、全面性和简单性方面实现更大的提升。

人工智能系统具有良好的普适性。

随着他们业绩的提升,很多领域的“大蛋糕”将成为现实。

在一些AI领域,比如家庭机器人、智能音箱等,优化系统可以让小芯片拥有出色的性能体验。

再比如,云对话能够自然流畅地响应对话,无延迟,这也与系统优化密不可分。

开发者可以在全栈开发平台上使用强大的AI套件,随心所欲地编译代码,而不必担心资源从哪里来,也不必考虑速度和消耗等问题。

传统开发者也可以从最熟悉的环境开始,逐步转型为AI开发者。

当被问及微软对AI的关注与其他公司有何不同时,该研究员告诉记者,微软希望以更全面的方式看待问题,希望提供整体解决方案,并表示不排除任何有益的东西。

我们愿意通过与包括竞争对手在内的各企业、大学的合作与互操作,为共同未来人工智能的发展做出贡献。

德国建筑师密斯有句名言:“当技术实现其真正使命时,它就升华为艺术”。

这句话对于人工智能系统来说似乎极其适用。