内容来源：华为开发者大会2021HMSCore6AI技术论坛，主题演讲《端云协同，HUAWEI HiAI Foundation打造更易用的AI计算平台》。主讲人：海思AI技术专家，大家好！HHUAWEIHiAIFoundation作为芯片赋能的基础平台，基于“芯、端、云”三层开放架构，构建全面开放的智能生态，帮助开发者快速发挥AI处理能力，为用户提供更好的智能应用经验。HUAWEIHiAIFoundation充分利用了华为麒麟芯片的能力，在实时性方面避免了网络延迟和拥塞；在隐私方面，保护本地图片、视频、语音信息和操作习惯；在成本方面，开发者可以最大限度地利用芯片的算力，节省计算成本和带宽成本。自2018年发布以来，HUAWEIHiAIFoundation对第三方应用的调用量逐年增加，目前日调用量已超过100亿，其价值得到了开发者的认可。HUAWEIHiAIFoundationOpenFrameworkHUAWEIHiAIFoundation之所以受欢迎，是因为它支持更多主流的推理框架。在引领端到端AI行业标准建设的同时，让更多开发者通过开源灵活高效地优化模型。2021年上半年，我们完成了与KwaiNN、Bytenn、MNN、TNN等框架的对接。在此基础上，HUAWEIHiAIFoundation可以支撑华为手机和各个产品线的众多服务和应用。比如视频剪辑、视频直播、在线支付、地图、输入法等。通过上面的框架图，我们可以看出HUAWEIHiAIFoundation是基础平台，主要由两部分组成：推理加速平台和异构计算平台。推理加速平台的目的是对接更多上层推理框架，帮助开发者专注于模型优化；异构计算平台更好地赋能NPU、CPU、GPU、DSP等计算IP，充分发挥芯片算力。之后，HUAWEIHiAIFoundation可实现手机、平板、智慧屏、音箱等基于麒麟芯片的华为产品多平台统一赋能，并与HarmonyOS深度融合，积极发挥端侧AI能力在HarmonyOS生态系统中。HUAWEIHiAIFoundation端云协同方案的优势HUAWEIHiAIFoundation上线后，我们遇到了很多问题。例如，一个新的应用特性发布后，业务运营商的性能需要随着手机等ROM系统的版本更新不断优化推送，使得整体上线周期变长。部分机型在支持服务（EOS）结束后无法享受最新的性能优化。所以开发者的诉求也很明确，就是跟上互联网的节奏，帮助业务快速上线，覆盖更多的机型，包括EOS机型。为了解决上述典型问题以及开发者在对接过程中提出的其他一些问题，HUAWEIHiAIFoundation在今年进行了两方面的重大升级。一是基于端云协同的计算库自主升级能力。支持计算库动态升级，保证性能优化后的算子库更快推送到端侧，同时通过插件编译模型，维护更好的异构策略和高性能融合模板。目前，该能力已在HarmonyOS2.0中上线，满足合作伙伴业务快速上线需求。二是易用性的升级。我们将提供更丰富的接口调用、更易懂的用户手册、demo和工具包。具体来说，主要包括以下四点：ModelZoo帮助开发者快速开启NPU加速。ModelZoo集硬件优化模型库、模型优化指导、技术交流社区能力于一体。通过它，开发者可以快速了解哪种类型的模型在硬件上运行速度更快，如何优化模型结构以获得更好的能效收益等。技术交流社区除了方便开发者参与讨论和交流，也为后续高校科研合作项目、AI技术竞赛提供了依据。推出高性能、低功耗、高精度、小模型的模型调参工具。包括模型量化工具包和模型结构搜索工具包。前者介绍了16bit、8bit、4bit、2bit和自适应混合量化。模型小巧灵活，可以保证模型的计算进度不会丢失。后者更多是通过自动搜索帮助开发者根据硬件信息调整模型结构，使其更加敏捷快速。异构计算——CPU、GPU、NPU等IP高效协同。下图说明了一个典型的数据流。从视频解码到图像预处理，再到图像处理、渲染优化、显示发送等，经历了大量的IP计算。那么这些IP如何在更长的数据流中高效协同工作呢？这就需要多个IP自动异构。可自动整合优化各计算节点，共享计算内存，实现多IP间数据零拷贝。此外，多IP调度任务可自动编排，支持节点间优先级控制和内存自动分配。模型可视化——用户模型信息可见，提高调优效率。在模型结构可视化工具（Netron）上，开发者可以直接看到HUAWEIHiAIFoundation的模型结构，更加方便。今天，华为HiAI基金会加入AI标准化组织AITISA（人工智能产业技术创新战略联盟），参与起草端侧AI标准，共同打造AI行业标准。为了让开发者更好的使用端侧AI能力，HUAWEIHiAIFoundation将保持初心，打造更好用的端侧AI计算平台，服务和赋能开发者，提升应用体验.谢谢你！了解更多>>访问华为开发者联盟官网获取开发指导文档华为移动服务开源仓库地址：GitHub、Gitee关注我们，第一时间了解HMSCore最新技术资讯~
