11月9日，华为全联接大会2022期间，华为正式宣布升腾AI异构计算架构CANN6.0版本将于年底发布。年正式发布。1生态满足度高，满足全方位业务需求从2018年初到2022年发布最新版CANN6.0，CANN在赋能AI开发效率和性能方面持续保持行业领先。CANN6.0版本作为升腾生态的锚点，基于发布全新升级的开发系统2.0，在性能、开放性和易用性上持续提升，支持开源算法、自定义算子开发、动态形态场景支持等，全方位满足AI开发者需求，不断提升生态满意度。CANN作为升腾AI基础软硬件平台的核心，搭建了从上层深度学习框架到底层AI硬件的桥梁，全面支持盛思MindSpore、PaddlePaddle、PyTorch、TensorFlow、Caffe、Jittor等主流AI框架，提供更多900多个最优模型，覆盖众多典型场景应用，兼容多种底层硬件设备，提供强大的异构计算能力。为满足开发者多层次的AI业务需求，CANN提供统一的面向应用的编程语言AscendCL（AscendComputingLanguage），屏蔽底层处理器差异，支持AI应用开发、模型开发和算子开发，版本向上兼容，让开发者零感知版本升级，享受AI开发的便利。同时，随着人工智能在更多场景的应用，对图片大小、语音长度等动态数据输入的需求不断增加。CANN6.0版持续支持动态形状。在新版本中，我们将有400+算子支持动态造型，支持80%的主流算子，大大提升了AI场景的生态满意度，以匹配客户更多的AI业务场景。2打造极简算子开发体验，高效赋能AI开发者。经过多年的积累和优化，CANN高性能算子库持续为支持神经网络训练和推理加速贡献力量。CANN6.0版本已经发展到1400+高性能算子，可以覆盖主流AI框架的算子加速需求。算子库不仅支持高性能单算子执行加速，还支持图输入技术，通过图上的算子融合减少计算节点和内存副本，进一步提升全网执行性能。以Bert网络为例，通过运营商深度融合技术可以提升50%的网络性能。CANN6.0新发布的Transformer高性能加速库针对典型网络结构减少80%的内核数量，核心内核性能提升50%-150%。具有继承开发简单、使用上层框架等诸多优点。除了继续保持典型机型的性能优势外，CANN6.0版本还将重点提升易用性。随着算子自定义开发的需求越来越大，为了更开放、更高效地支持用户自主开发，随新版本发布的开发系统2.0在算子开发方面引入了原生支持C/C++的算子开发语言，减少了算子开发的难度。运营商的数量。开发门槛，同时提供兼容升腾硬件的数据结构，在保持性能的基础上提升用户自定义算子开发效率，使算子开发效率成倍提升。CANN6.0版本将提供11类70个DSL算子编程接口，并新增11种算子调度策略，让更多的算子能够以简单的DSL方式开发。子覆盖率可达80%。在开发易用性方面，开发者只需要完成计算流程表达式，无需关心后续的Schedule创建、优化、编译等问题，因为这些操作都会通过AutoSchedule自动调度接口快速完成。CANN还支持算子调试、一键生成工程代码、自动编译部署算子库、简化算子交付等功能。基于全流程解决开发者痛点，降低运营商开发门槛。3不断提升模型开发效率，实现模型下载使用CANN支持模型的自动迁移、调试和智能调优，真正意义上实现模型下载使用。在CANN6.0版本下，主流框架TensorFlow、PyTorch的模型迁移成功率可达80%以上，兼容Horovod/Keras/DeepSpeed等主流三方库。在此基础上，也方便将那些随着算法演进而开发的自定义内核或函数保留到框架端执行，提高算法适配的灵活性。在模型调优方面，开发者不仅可以通过一系列对升腾友好的API提升性能，还可以通过智能调优工具替代繁琐的手动优化操作。CANN6.0版本平均调优效率较上一代提升一个档次。超过一倍。4全方位AI开发辅助，扫除AI开发障碍作为全面赋能AI开发的软件平台，CANN不仅在AI模型适配、应用开发、算子开发等方面持续为开发者带来便利，还从模型优化、系统分析、模型部署等维度帮助开发者扫清重重障碍。模型压缩工具AMCT，可以有效减少模型数据量和计算量，节省模型内存和带宽使用，提高计算性能；智能计算调优工具AOE，其傻瓜式的自动优化能力使算法工程师从繁重的手动调优工作中解脱出来，并能直观地展示调优进度和调优结果；Profiling工具可以自动收集全网的性能数据，通过统计视图识别最耗时的运营商。在CANN6.0版本中，可以自动生成性能优化建议，引导用户快速解决问题；精度对比工具支持全网或指定层的数据转储。CANN6.0版本进一步简化了转储数据量，更有效地辅助开发者快速定位异常算子。智能化浪潮汹涌前行，CANN继续深入践行初心和使命，以质朴朴实的态度打造梦想的AI开发者！随着CANN6.0版本的全新开放升级，将带动更多的合作伙伴和开发者基于升腾AI和CANN的关键技术探索人工智能领域的更多可能，点燃智慧创新的热情，点亮智慧与智慧美好生活，共同筑梦远方，共享行业数字化未来！
