随着新技术的一直演进，人工智能曾经宽泛地利用到教育、金融、物流、批发、交通、医疗等各个领域。而在AI高速倒退的当下，高效开发变得更为重要，如何将创意想法与AI技术深度交融，迅速转化为可落地的AI利用，是开发者在强烈竞争中制胜的要害。

为了助力开发者疾速上线AI业务，为消费者提供翻新AI体验，HMS Core HiAI Foundation将HiAI 生态中的底层硬件能力凋谢，为开发者提供了300多个具备业界优质模型兼容性的AI算子，让开发者更简略快捷地利用华为AI能力，疾速构建智能AI利用。

此外，HUAWEI HiAI Foundation还推出端云协同、Model Zoo、自主调优工具包、多IP深度协同等多种解决方案和能力，为泛滥业务场景打造更高性能更低功耗的计算环境，助力开发者疾速开发和部署AI利用。

五大性能劣势，助力开发者高效灵便开发

• 端云协同：针对新业务场景算子以及已有典型业务场景算子，提供性能优化、疾速降级平台能力的解决方案

以后，AI业务和算法模型都在继续疾速演进，AI计算平台适配新业务和新算法疾速降级成为难题。端云协同具备可变的计算框架、广适的模型构造，助力开发者疾速反对新模型、上线新业务，让消费者疾速取得端侧AI带来的体验晋升。

• Model Zoo：辅助开发者优化模型构造，更好地利用NPU减速劣势

开发者在业务开发过程中，为了更大程度利用底层算力，须要针对底层硬件构造做一些模型调整，这个过程可能会呈现效率低，资源利用有余的状况。HiAI Foundation打造Model Zoo，将NPU敌对的模型构造、Backbone、算子放进去，供开发者自行筛选，辅助其优化模型构造，更好地施展麒麟芯片NPU的减速劣势。

• 模型量化工具包：让开发者的App更快、更小

失常状况下，开发者训练的模型是32bit，这样的模型计算精度诚然高，但对手机功耗和内存的要求也比拟高。HiAI Foundation为开发者提供模型量化工具包，在满足计算精度的前提下，能够把原始模型间接量化为更小、更轻便且更适宜NPU构造的低比特模型，无需开发者做二次调整，从而节俭手机空间，升高计算资源的耗费。


HiAI Foundation模型量化工具包

• 网络结构搜寻工具包：让网络设计更简略、更无效

网络结构搜寻工具包反对多种类型的网络结构搜寻工作，蕴含分类，检测和宰割。通过精度，性能指标牵引，协同硬件信息通过最优化搜索算法取得最优的网络结构，失去最佳的性能晋升。网络结构搜寻工具包反对多种支流训练框架使能，蕴含：caffe，tensorflow，pytorch。同时针对多种支流硬件平台具备算力和时延建模的能力。


HiAI Foundation网络结构搜寻工具包

• 多IP深度协同：各计算单元共用DDR内存，晋升性能降低功耗

HiAI Foundation在硬件裸算力凋谢的同时，还具备硬件底层多IP深度协同的劣势。多IP深度协同的益处在于，CPU、NPU、ISP、GPU等各计算IP能够共用DDR内存，最大水平缩小IP之间拷贝数据流转的开销，既可晋升性能又能降低功耗。

从平台架构来看，HMS Core HiAI Foundation连接智慧业务和底层硬件能力，下层反对MNN、TNN、华为MindSpore Lite、Paddle Lite、KwaiNN等合作伙伴的框架对接，利用推理减速平台（Foundation DDK）和异构计算平台（Foundation HCL）将AI工作调入NPU/CPU/GPU/DSP等IP中进行计算，赋能手机、平板、智慧屏、车机、手表等终端设备，将更多好玩酷炫的AI利用带到消费者背后。


HiAI Foundation 凋谢架构

日调用量冲破600亿，引领端侧AI行业标准构筑

现在，AI技术在端侧的利用越来越宽泛，语音辨认、图像识别、图像宰割、图像超分、人脸识别、文字辨认等曾经成为全民通用的技术，消费者期待更好玩的AI利用呈现，心愿取得更优质的AI利用体验。HiAI Foundation为AI利用开发提供了根底保障，让开发者可能突破性能瓶颈，进步开发效率，节俭计算资源，更好地投入到AI玩法的钻研与落地中，满足消费者对智慧生存的美妙期待。

据统计， HiAI Foundation自2018年凋谢以来，以高性能、低功耗、高易用性播种越来越多的开发者青眼，短短几年间日调用量从100万+增长到600亿+（数据来自参加体验改良打算的用户）。爱奇艺、美颜相机、抖音、剪映、快手、优酷等头部利用已先后接入HiAI Foundation，利用端侧AI弱小的计算能力，为用户打造智能新体验。


HiAI Foundation日调用量冲破600亿+

为了助力端侧AI行业凋敝倒退，HiAI Foundation在优化平台性能的同时，已退出AI标准化组织AITISA（人工智能产业技术创新策略联盟），并参加端侧AI规范草案撰写，独特构筑AI行业标准，目前该草案已进入规范定稿审核阶段。

更多HiAI Foundation相干信息，请关注5月24日HUAWEI Developer Day（简称HDD）-HiAI Foundation主题演讲，你也能够登录华为开发者联盟官网>HMS Core>HiAI Foundation查看。

理解更多详情>>

拜访华为开发者联盟官网
获取开发领导文档
华为挪动服务开源仓库地址：GitHub、Gitee

关注咱们，第一工夫理解 HMS Core 最新技术资讯~