摘要：CANN（神经网络的计算体系结构）异质计算体系结构旨在提高用户开发效率和释放升降机AI处理器的极端计算力，特别是针对AI场景的异质计算体系结构。
从2016年开始，人类军队的alphago击败了世界顶级国际象棋球员，
到2020年，他将写小说，编剧，敲门代码和Koko完整样本GPT-3，
到2021年，Pangu Dapa模型最接近人类的中国理解能力，过度供应...
近年来，在人工智能领域，就像开放，不断振奋人的人类认知，颠覆人类的想象力...
就像人类掌握一定技能一样，训练智能AI算法模型通常需要数万个数据。以GPT-3为例，参数的数量已达到1750亿，样本量高达45TB。单个培训时间基于本月。
同时，随着人工智能的应用越来越成熟，非结构性数据的处理需求（例如文本，图片，音频和视频）被指数增加，并且数据处理过程已逐渐从一般计算到一般计算到异质计算。
华为启动了Shengteng AI基本软件和硬件平台。在它们的旁边，Shengteng AI处理器+异构计算体系结构Cann具有固有的精湛成分和固有的计算能力，并且软件和硬件的强大组合正在逐渐促进催化剂，从而促进了催化剂的快速组合AI行业的登陆。
CANN（神经网络的计算体系结构）异质计算体系结构旨在提高用户开发效率和释放升降机AI处理器的极端计算能力。对于上端框架，用户之间的硬件差异屏蔽了一系列芯片，向下屏蔽。凭借完整场景，低阈值和高性能的优势，它符合用户的全面人工智能需求。
目前，在人工智能领域，AI算法模型结构的技术已经是纯火。AI模型的深度学习框架在市场上使用。除了华为的开源思维孔外，还有Google的Tensorflow，Facebook的Pytorch，Caffe等。
通过插件的CANN适应层可以轻松地进行由标准化的Ascend IR（中间重新定位）表示的模型的图形，该模型基于不同的框架开发将其转换为标准化的Ascend IR（中间介导的抑制）。
这样，开发人员只需要更改几个更改即可快速进行算法移植，体验Shengteng AI处理器的计算能力，并大大降低了切换平台的成本。据说它很香？
依靠人工智能实现智能转型，它几乎已成为各行各业的强制性课程。遵循简约发展概念的坎恩提供了一组简单易用的易用性差异，您只需要掌握一组API即可将其完全应用于Shengteng的完整AI处理器。
同时，它可以与仍可以与坎恩版本的未来升级兼容的开发人员会面，并且运营效率不会被打折！
简单的AI应用程序开发接口
人工智能将人类的渴望托付给未来的生活。当我们面对“这是什么样的垃圾，要扔的桶”的灵魂酷刑时，AI垃圾分类枪管的应用可以使您从深水和热水中。
AscendCl提供了一组C-语言API库，用于开发深神经网络推理应用程序。它具有操作资源管理，模型加载和执行，图像准备和其他功能的能力。AI应用程序。您可以支持通过主流开源开源框架调用AscendCl库，还支持直接调用AscendCl编程接口，直接调用。
让我们教您5个步骤以获取AI垃圾分类应用程序：
灵活的操作员开发界面
当您的AI模型不受CANN的支持，或者要修改现有操作员以改善计算性能时，可以使用Cann可以打开的自定义操作员开发界面来开发所需的操作员。
对于不同级别的AI开发人员，CANN为两个运营商提供了**高效率（TBE-DSL）和TBE-TIK **，它们可以灵活地与不同级别的开发人员相遇。
其中，TBE-DSL的进入难度不太困难。它可以自动实施数据切割和调度。开发人员只需要注意操作员本身的计算逻辑即可。在不了解硬件细节的情况下，他们可以开发高性能运营商。
TBE-TIK相对困难。与TBE-DSL不同，它仅在高级抽象编程中，但提供指导级的编程和调整功能。开发人员需要全力以赴，以挖掘硬件功能，以实现更高效，更高效，更高效，更高效，更高效，更高效，更高效，更高效，更高效，更有效，更有效，更有效，更有效，更有效，更有效，更有效，更有效更高效，更高效，更高效，效率更高，更有效，更有效，更高效，更有效，更有效，更高效，更高效，更高效，更有效，更有效，更有效，更有效，更有效更有效，更高效，更有效的复合操作员。
方便的红外构图接口
此外，开发人员还可以使用标准化的Ascend IR（Internet IR（Internet Reposition）界面）界面抛弃深度学习框架本身，直接致电Cann中的操作员库来构建一个可以在该模型上执行的高性能模型Shengteng AI处理器。
基于深度学习框架的模型实际上是由计算单元组成的。我们将这些计算单元称为运算符（OP），对应于特定的计算逻辑。
操作员在硬件上的加速计算构成了加速神经网络的基础和核心。在目前，Cann提供了1200多个深度优化的，硬件和亲和力操作员，这是一个如此丰富的高性能操作员，该操作员建造了一个使您的神经网络“立即”加速的计算能力来源。
地球上最痛苦的是等待，等待交通信号灯，等待冬季和暑假，等待外卖，等待合适的人...
人工智能也是如此。随着神经网络结构的快速发展，只需使用手动优化解决AI模型性能的性能，就越来越容易发生瓶颈。Cannn的地图编译器就像魔术师一样，它将具有高度的抽象。根据Shengteng AI处理器的硬件结构的特征进行计算，编译和优化，以执行有效的执行。
魔术师的“神行动”是什么？
自动操作员融合：基于多维的自动融合，例如操作员，子图，范围等，有效地减少了计算节点并大大减少了计算时间。
缓冲液融合：通过减少数据传输的数量并提高升力AI处理器中的高速缓存速率，从而计算神经网络的大数据吞吐量以及记忆约束问题，从而提高了计算效率。
我们在缓冲区融合之前和之后做正确的事：
在融合之前，在Shengteng AI处理器上计算职业1，并将来自Shengteng AI处理器中的缓存缓冲区的数据运送到外部存储。占用2从外部存储中获得的数据作为输入获得，移至缓存缓冲区以进行计算以下融合，在完成职业1的计算完成后，将数据保留在缓存缓冲区中。占用2直接从缓存缓冲液中获取数据以计算操作员2，以有效减少数据传输数量并改善计算性能。
全图下沉：Shengteng AI处理器，集成了丰富的计算设备资源，例如Aicore/AICPU/DVPP/AIPP，这是由于Shengteng AI处理器上丰富的土壤所致，因此Cann不仅可以计算水槽的计算台Shengteng AI处理器加速，控制流，DVPP和通信零件可以陷入沉没。尤其是在训练场景中，执行AI处理器中复杂逻辑计算图的所有闭环的能力可以有效地减少交互作用与主机CPU在一起并改善计算性能。
异构调度能力：当计算图包含多种类型的计算任务时，CANN充分利用了Shengteng AI处理器的丰富异质计算资源，并将计算任务分配给不同的计算，以在满足图形逆转的依赖项的前提下，实施并行计算，提高每个计算单元的资源利用率，并最终提高计算任务的总体效率。
顾名思义，自动混合精度是一种自动使用半精度和单个精度来加速模型执行的技术。它在大型模型培训方案中具有必不可少的位置。
Float Precision32（FP32）是计算机常用的一种数据。Float Precision16（FP16）是一种相对较新的浮动点类型。在计算机中使用2个字节（16位）存储。适用于准确性要求低的场景。
显然，FP16类型的使用肯定会带来计算准确性损失，但是对于深度学习训练，并非所有计算都需要高精度。因此，可以使用FP16类型来加速计算中准确性准确性的计算图，可以有效地减少记忆的使用并实现性能和准确性平衡。
随着主流深度学习模型可以解决的问题变得越来越复杂，模型本身的复杂性已经开始增加，人工智能领域需要更强大的计算能力来满足未来网络的培训需求。
基于Shengteng AI基本软件和硬件“ Pengcheng Cloud Brain II”，它破坏了当今行业中100个PLOPS（每秒10亿元）的计算功率上限，允许E -Class Flops（每秒100亿元）来计算计算计算每秒）计算能力场景一直处于历史阶段。
它集成了数千个AI处理器，其总功率达到256-1024个PFLOPS，即每秒256-102.4亿美元的浮点浮点运营。
如何轻松派遣数千个升华AI处理器是面临大型群集网络的问题。
Cann Integates HCCL（华为集体通信库，华为收集通信库），为Shengteng AI处理器多卡培训提供数据并行/模型并行通信解决方案：
如果将“ Pengcheng Cloud Brain II”与一个大型交响乐团进行比较，那么Cann是一位出色的指挥，与AI处理器联手，并在AI超级计算时代开了一个新的篇章。
在2018年初，Cann继续取得突破，为开发人员带来了极简的体验，发布了AI硬件的最终性能，并成为支持Cann在人工智能领域中行走的腿。
我相信这在AI轨道上会不满意，那些想共同改变世界，共同改变世界并共同建立未来的人！
在2021年底，Cann还迎来了全新的，更强大的5.0版本。它会带来什么惊喜？让我们拭目以待！