乐趣区

关于android:日调用量超600亿次HMS-Core-HiAI-Foundation助力AI应用高效开发

随着新技术的一直演进,人工智能曾经宽泛地利用到教育、金融、物流、批发、交通、医疗等各个领域。而在 AI 高速倒退的当下,高效开发变得更为重要,如何将创意想法与 AI 技术深度交融,迅速转化为可落地的 AI 利用,是开发者在强烈竞争中制胜的要害。

为了助力开发者疾速上线 AI 业务,为消费者提供翻新 AI 体验,HMS Core HiAI Foundation 将 HiAI 生态中的底层硬件能力凋谢,为开发者提供了 300 多个具备业界优质模型兼容性的 AI 算子,让开发者更简略快捷地利用华为 AI 能力,疾速构建智能 AI 利用。

此外,HUAWEI HiAI Foundation 还推出端云协同、Model Zoo、自主调优工具包、多 IP 深度协同等多种解决方案和能力,为泛滥业务场景打造更高性能更低功耗的计算环境,助力开发者疾速开发和部署 AI 利用。

五大性能劣势,助力开发者高效灵便开发

• 端云协同:针对新业务场景算子以及已有典型业务场景算子,提供性能优化、疾速降级平台能力的解决方案

以后,AI 业务和算法模型都在继续疾速演进,AI 计算平台适配新业务和新算法疾速降级成为难题。端云协同具备可变的计算框架、广适的模型构造,助力开发者疾速反对新模型、上线新业务,让消费者疾速取得端侧 AI 带来的体验晋升。

• Model Zoo:辅助开发者优化模型构造,更好地利用 NPU 减速劣势

开发者在业务开发过程中,为了更大程度利用底层算力,须要针对底层硬件构造做一些模型调整,这个过程可能会呈现效率低,资源利用有余的状况。HiAI Foundation 打造 Model Zoo,将 NPU 敌对的模型构造、Backbone、算子放进去,供开发者自行筛选,辅助其优化模型构造,更好地施展麒麟芯片 NPU 的减速劣势。

• 模型量化工具包:让开发者的 App 更快、更小

失常状况下,开发者训练的模型是 32bit,这样的模型计算精度诚然高,但对手机功耗和内存的要求也比拟高。HiAI Foundation 为开发者提供模型量化工具包,在满足计算精度的前提下,能够把原始模型间接量化为更小、更轻便且更适宜 NPU 构造的低比特模型,无需开发者做二次调整,从而节俭手机空间,升高计算资源的耗费。


HiAI Foundation 模型量化工具包

• 网络结构搜寻工具包:让网络设计更简略、更无效

网络结构搜寻工具包反对多种类型的网络结构搜寻工作,蕴含分类,检测和宰割。通过精度,性能指标牵引,协同硬件信息通过最优化搜索算法取得最优的网络结构,失去最佳的性能晋升。网络结构搜寻工具包反对多种支流训练框架使能,蕴含:caffe,tensorflow,pytorch。同时针对多种支流硬件平台具备算力和时延建模的能力。


HiAI Foundation 网络结构搜寻工具包

• 多 IP 深度协同:各计算单元共用 DDR 内存,晋升性能降低功耗

HiAI Foundation 在硬件裸算力凋谢的同时,还具备硬件底层多 IP 深度协同的劣势。多 IP 深度协同的益处在于,CPU、NPU、ISP、GPU 等各计算 IP 能够共用 DDR 内存,最大水平缩小 IP 之间拷贝数据流转的开销,既可晋升性能又能降低功耗。

从平台架构来看,HMS Core HiAI Foundation 连接智慧业务和底层硬件能力,下层反对 MNN、TNN、华为 MindSpore Lite、Paddle Lite、KwaiNN 等合作伙伴的框架对接,利用推理减速平台(Foundation DDK)和异构计算平台(Foundation HCL)将 AI 工作调入 NPU/CPU/GPU/DSP 等 IP 中进行计算,赋能手机、平板、智慧屏、车机、手表等终端设备,将更多好玩酷炫的 AI 利用带到消费者背后。


HiAI Foundation 凋谢架构

日调用量冲破 600 亿,引领端侧 AI 行业标准构筑

现在,AI 技术在端侧的利用越来越宽泛,语音辨认、图像识别、图像宰割、图像超分、人脸识别、文字辨认等曾经成为全民通用的技术,消费者期待更好玩的 AI 利用呈现,心愿取得更优质的 AI 利用体验。HiAI Foundation 为 AI 利用开发提供了根底保障,让开发者可能突破性能瓶颈,进步开发效率,节俭计算资源,更好地投入到 AI 玩法的钻研与落地中,满足消费者对智慧生存的美妙期待。

据统计,HiAI Foundation 自 2018 年凋谢以来,以高性能、低功耗、高易用性播种越来越多的开发者青眼,短短几年间日调用量从 100 万 + 增长到 600 亿 +(数据来自参加体验改良打算的用户)。爱奇艺、美颜相机、抖音、剪映、快手、优酷等头部利用已先后接入 HiAI Foundation,利用端侧 AI 弱小的计算能力,为用户打造智能新体验。


HiAI Foundation 日调用量冲破 600 亿 +

为了助力端侧 AI 行业凋敝倒退,HiAI Foundation 在优化平台性能的同时,已退出 AI 标准化组织 AITISA(人工智能产业技术创新策略联盟),并参加端侧 AI 规范草案撰写,独特构筑 AI 行业标准,目前该草案已进入规范定稿审核阶段。

更多 HiAI Foundation 相干信息,请关注 5 月 24 日 HUAWEI Developer Day(简称 HDD)-HiAI Foundation 主题演讲,你也能够登录华为开发者联盟官网 >HMS Core>HiAI Foundation 查看。

理解更多详情 >>

拜访华为开发者联盟官网
获取开发领导文档
华为挪动服务开源仓库地址:GitHub、Gitee

关注咱们,第一工夫理解 HMS Core 最新技术资讯~

退出移动版