当前位置: 首页 > 科技观察

PyTorch1.9发布!移动端疯狂更新,网友:我的最爱

时间:2023-03-12 02:50:24 科技观察

本文经AI新媒体量子比特(公众号ID:QbitAI)授权转载,转载请联系出处。时隔仅3个月,PyTorch再次迎来升级——1.9版本。这一次,官方将重心放在了移动端。不仅MobileInterpreter发布了新版本,TorchVision库也支持手机端,iOS和Android都支持!网友看了纷纷表示:这次更新,我最感兴趣的是移动端。本次1.9版本汇集了自2021年3月发布1.8版本以来的3,400多个GitHub提交。除了移动设备端,还有许多其他亮点:前端API改进(包括torch.linalg、torch.special和ComplexAutograd)实现了对弹性、容错分布式训练的原生支持更新了PyTorch模型性能分析器LeCun也在Twitter平台上,表扬PyTorch每次都做得更好!在手机上使用TorchVision库是PyTorchMobile最受欢迎的功能之一,即MobileInterpreter更新。最新版本能够将移动设备上的二进制文件大小减少到原始大小的一半以下。例如,在arm64-v8a架构的Android设备上使用的MobileNetV2的pt大小在压缩前为17.8MB,压缩后为8.6MB。使用新版MobileInterpreter后,压缩前文件大小可降至8MB以下,压缩后文件大小可降至4MB以下。同时,从1.9版本开始,用户可以在iOS和Android应用程序上使用TorchVision库。在iOS上,它需要与主PyTorch库链接;在Android上,它可以作为gradle依赖项添加。在demoAPP方面,本次更新了基于PyTorchVideo库的全新视频APP和基于最新torchaudio、wave2vec模型的语音识别APP。有了这两个应用程序,PyTorch现在可以提供一整套包括图像、文本、音频和视频的演示应用程序。前端API改进在1.9版本中,改进了torch.linalg、torch.special和ComplexAutograd等模块。torch.linalg模块现在可以实现NumPy线性代数模块中的所有功能;ComplexAutograd更新的新函数可以计算复杂的梯度并优化损失函数。此外,为了帮助调试和编写可重现的程序,PyTorch1.9添加了一个torch.use_deterministic_algorithms选项。这是为了避免在运行过程中可能出现的错误,具体如下:分布式训练TorchElastic是PyTorch的一个核心特性,可以让用户在可抢占实例上运行分布式训练。△在新版TorchElastic的运行原理中,增加了一个基于c10d::Store的“独立”采集点,可以在本地支持弹性容错的分布式训练。此外,CUDA现在在RPC中得到支持,它支持分布式训练分析等。PyTorchProfilerPyTorchProfiler是一款用于PyTorch模型性能分析的工具。通过可视化页面帮助我们分析具体操作。在1.9版本中,Windows和Mac支持新的torch.profilerAPI。新的API支持现有的分析器功能,可以与CUPTI库(仅限Linux)集成,跟踪设备上的CUDA内核,并为长期运行的项目提供支持,例如:、内存分析视图,以及从MicrosoftVSCode启动时跳转到源代码。更多更新信息请戳:https://pytorch.org/blog/pytorch-1.9-released/