随着新技术的不断演进,人工智能已经广泛应用于教育、金融、物流、零售、交通、医疗。随着人工智能的快速发展,高效开发变得更加重要。如何将创意与AI技术深度融合,并快速转化为实用的AI应用,是开发者在激烈竞争中取胜的关键。为帮助开发者快速上线AI服务,为消费者提供创新的AI体验,HMSCoreHiAI基金会在HiAI生态中开放硬件底层能力,为开发者提供300多个具有业界领先模型兼容性的AI算子。让开发者更方便快捷地应用华为AI能力,快速构建智能AI应用。此外,HUAWEIHiAIFoundation还推出端云协同、多IP深度协同、自调优工具包、ModelZoo等多种解决方案和能力,打造更高性能、更高效的计算环境。为众多业务场景降低功耗,方便开发。或快速开发和部署AI应用程序。五大性能优势,助力开发者高效灵活开发?端云协同:为新业务场景运营商和已有典型业务场景运营商,提供性能优化和平台能力快速升级的解决方案目前,AI业务和算法模型处于随着持续快速演进,AI计算平台适应新业务、快速升级新算法变得困难重重。端云协同具备快速升级端侧计算库的能力,帮助开发者快速支持新模式、推出新业务,让消费者快速获得端侧AI带来的体验提升。?ModelZoo:协助开发者优化模型结构,更好的发挥NPU加速的优势。在业务发展过程中,为了更好地利用底层算力,开发者需要对底层硬件结构进行一些模型调整。这个过程可能会出现低效率和资源利用不足。HiAI基金会打造ModelZoo,将NPU友好的模型结构、Backbone、operator放入其中,供开发者自行选择,协助开发者优化模型结构,更好地发挥麒麟芯片NPU的加速优势。?ModelQuantizationToolkit:让开发者的app更快更小一般情况下,开发者训练的模型都是32bit的。这类模型虽然计算精度高,但对手机功耗和内存的要求也比较高。HiAIFoundation为开发者提供了模型量化工具包。在满足计算精度的前提下,可以将原始模型直接量化为更小、更轻、更适合NPU结构的低位模型,无需开发者进行二次调整,从而节省手机空间并减少计算资源的消耗。HiAIFoundation模型量化工具包?网络结构搜索工具包:让网络设计更简单、更有效网络结构搜索工具包支持各种类型的网络结构搜索任务,包括分类、检测和分割。通过精度和性能目标牵引,通过协同硬件信息通过最优搜索算法得到最优网络结构,获得最佳性能提升。网络结构搜索工具包支持多种主流训练框架,包括:caffe、tensorflow、pytorch。同时具备针对多种主流硬件平台的计算能力和时延建模能力。HiAIFoundation网络结构搜索工具包?多IP深度协同:每个计算单元共享DDR内存,提升性能,降低功耗。HiAIFoundation的优势在于,在打通硬件裸算力的同时,可以在硬件底层实现多个IP的深度协作。多IP深度协作的好处是CPU、NPU、ISP、GPU等计算IP可以共享DDR内存,最大限度地减少IP之间复制数据传输的开销,可以提高性能,降低功耗。从平台架构上看,HMSCoreHiAIFoundation打通了智能服务和底层硬件能力。上层支持MNN、TNN、华为MindSporeLite、PaddleLite、KwaiNN等合作伙伴的框架对接,利用推理加速平台(FoundationDDK)和异构计算平台(FoundationHCL)将AI任务转为IP等作为计算的NPU/CPU/GPU/DSP,为手机、平板、智慧屏、车机、手表等终端设备赋能,集成更多好玩酷炫的AI应用,带给消费者。HiAI基金会开放架构日调用量突破600亿次,引领端到端AI行业标准建设如今,AI技术在端侧的应用越来越广泛,如语音识别、图像识别、图像分割、图像超分辨率、人脸识别、文字识别已经成为全民通用的技术。消费者期待更多有趣的人工智能应用,希望获得更好的人工智能应用体验。HiAI基金会为AI应用开发提供基础保障,让开发者突破性能瓶颈,提升开发效率,节省计算资源,更好地投入到AI玩法的研究与落地,满足消费者对智能生活的期待。据统计,自2018年HiAI基金会开放以来,以其高性能、低功耗、高易用性受到越来越多开发者的青睐。短短几年,日通话量从100万+增长到600亿+(数据来自参与体验提升计划的用户)。爱奇艺、美颜相机、抖音、简影、快手、优酷等头部应用先后接入HiAI基金会,利用端侧AI的强大算力,为用户打造全新的智能体验。HiAI基金会日调用量突破600亿+为了助力端侧AI产业繁荣发展,HiAI基金会加入AI标准化组织AITISA(人工智能产业技术创新战略联盟),同时优化平台性能,参与端侧AI标准草案编写,共同打造AI行业标准。目前,草案已进入标准终审阶段。更多HiAI基金会相关信息,请关注5月24日华为开发者日(简称HDD)-HiAI基金会主题演讲。您也可以登录华为开发者联盟官网>HMSCore>HiAI基金会查看.更多详情>>访问华为开发者联盟官网获取开发指导文档华为移动服务开源仓库地址:GitHub、Gitee关注我们,第一时间了解HMSCore最新技术资讯~
