昨天,PyTorch团队发布了PyTorch1.7版本。该版本增加了许多新特性,例如支持CUDA11、Windows分布式训练,以及支持快速傅里叶变换(FFT)的新API等。PyTorch1.7版本包括许多新API,例如支持与NumPy兼容的FFT操作、性能分析工具,以及对基于分布式数据并行(DDP)和远程过程调用(RPC)的分布式训练的重要更新。此外,一些功能已更新至稳定版,包括自定义C++类、内存分析器、通过自定义类张量对象的扩展、RPC中的用户异步函数以及torch.distributed中的许多其他功能(例如Per-RPC超时、DDP动态分桶,RRef助手)。本次更新亮点包括:(1)CUDA11正式获得PyTorch支持;(2)针对autograd分析器,更新并添加了RPC、TorchScript和堆栈跟踪(Stacktrace)的分析和性能;(3)(测试版)通过torch.fft支持NumPy兼容的FFT运算;(4)Prototype)支持NVIDIAA100GPU和原生TF32格式;(5)Prototype)支持Windows系统分布式训练。(6)torchvision(stableversion)transformssupportstensorinput,batchcomputing,GPUandTorchScript(stableversion)nativeimageI/OinJPEGandPNGformats(betaversion)newvideoreaderAPI(7)torchaudio(稳定版)添加支持语音录制(wav2letter)、文本转语音(WaveRNN)和信源分离(ConvTasNet)(注:从PyTorch1.6版本开始,PyTorch功能分为Stable(稳定版)、Beta(测试版)和Prototype(prototypeversion).新特性与之前的版本相比,PyTorch1.7增加了许多新特性,包括PythonAPI、C++API、Autograd、CUDA、量化等诸多方面。例如PythonAPI增加了多个新的命名空间、运算符和API扩展,CUDA增加了对TF32的支持等,量化方面增加了新的量化操作并支持FP16量化等。对于PyTorch1.7的一些新特性,详见https://github.com/pytorch/pytorch/releases/tag/v1.7.0。开发者对PyTorch1.7的态度一些开发者对PyTorch1.7的新特性“支持在Windows上进行分布式训练”表示赞赏:并乐于看到“PyTorch支持CUDA11”:一些人仍然借机表白PyTorch和列出偏爱PyTorch的原因,例如易于阅读的错误报告、直观的代码和简单的实验。当然,版本变更之路似乎永无止境。一些开发者提出了自己的要求,比如fp32卷积,TensorFlow有但PyTorch没有的SemanticVersioning:此时距离PyTorch1.6发布才三个月,不知道下一个版本会有什么惊喜PyTorch将带给我们。参考链接:https://pytorch.org/blog/pytorch-1.7-released/https://github.com/pytorch/pytorch/releases/tag/v1.7.0https://www.reddit.com/r/MachineLearning/comments/jj4sr7/d_pytorch_17_released_w_cuda_11_new_apis_for_ffts/【本文为《机器之心》专栏原文翻译,微信公众号“机器之心(id:almosthuman2014)”】点此查看作者的更多好文作者
