间隔飞桨开源框架 2.0 版本公布刚过去两个月,5 月 20 日在 WAVE SUMMIT 2021 深度学习开发者峰会上,百度公布了新的飞桨开源框架 2.1 版本,同时飞桨企业版也有新降级。
百度首席技术官、深度学习技术及利用国家工程实验室主任王海峰在峰会上致辞。王海峰走漏,飞桨已凝聚 320 万开发者,相比 1 年前增长近 70%;服务的企事业单位达到 12 万家。
对于现阶段的人工智能技术和产业倒退,分享了两点思考:
一是交融翻新。从技术的角度,常识与深度学习相结合,冲破了常识加强的深度语义了解;多技术交融翻新,通过常识图谱关联跨模态信息,用自然语言语义示意交融语言、语音、视觉等不同模态的语义空间,冲破跨模态语义了解。从平台的角度,深度学习平台与芯片软硬一体交融翻新,满足不同算力、功耗、时延等的多样化需要,获得 AI 利用的最佳成果。飞桨针对多种芯片并存的环境,研制了异构参数服务器训练技术,冲破了超大模型的高效训练难题。目前,飞桨曾经和 22 家国内外硬件厂商发展适配和联结优化,硬件生态蓬勃发展。从产业的角度,人工智能技术越来越深刻与产业交融,以产业需要为牵引,继续打磨 AI 技术及平台能力,与利用场景交融翻新倒退。
二是升高门槛,随着人工智能技术在各行业的浸透,面向不同利用场景,高效满足不同的开发者需要,继续升高门槛十分要害。飞桨是源于产业实际的深度学习开源开放平台,始终致力于升高门槛,既有反对动静对立的外围框架,也有产业级模型库、开发套件和工具组件,以及晋升企业生产效率的飞桨企业版等,满足不同行业、不同阶段、不同档次开发者的须要。基于飞桨平台,320 万开发者不再须要从头编写人工智能的算法代码,即可高效进行技术创新和业务拓展。门槛的大幅升高,放慢了人工智能利用的多样化和规模化,放慢了产业智能化过程。
自定义 OP、大规模图检索引擎,百度飞桨迎来 2.1 版本
此次峰会的重头戏莫过于百度飞桨的又一次更新。百度深度学习技术平台部高级总监马艳军介绍了百度飞桨开源框架最新 2.1 版本的新个性:
- 主动混合精度优化:启动后训练速度可晋升 3 倍;
- 动态图性能加强:新增 inplace 操作性能,实现主动显存复用;优化 Python/C++ 交互开销,晋升即时执行效率;
- 高层 API:新增反对 GPU 预处理,新增反对混合精度,新增模型共享机制;
- 自定义 OP 性能优化:反对一键编译、装置并生成算子 API,简化编译与应用流程;
- 大规模图检索引擎:反对万亿边的分布式图存储与检索,反对线性扩大。
飞桨 2.1 版本更多信息,参见 https://www.paddlepaddle.org….
在模型套件方面,此次百度飞桨公布了文心 ERNIE 四大预训练模型,进一步在常识加强的语义了解、跨模态语义了解等方面获得冲破,为开发者赋能。
此外,马艳军还重点介绍了买通 AI 利用最初一公里的关键环节——推理部署工具链。
百度飞桨推理部署工具链的更新包含:
- PaddleSlim 模型压缩降级:优化剪枝压缩技术,新增非结构化稠密工具;联合多种压缩策略劣势,率先反对 OFA 压缩模式;
- 端侧推理引擎 PaddleLite 全面降级:新增开箱即用的挪动开发工具集 LiteKit,加强易用性;对 ARM CPU 和 OpenCL 这两种场景做性能优化,放弃 int8 场景下的当先劣势;反对多种芯片类型;
- 服务端部署工具 Paddle Serving:新增全异步设计的 Pipeline 模式;
- 网页端部署工具 Paddle.js 全新降级:高兼容性(反对多种 backend),高性能(反对 WebGL Pack 性能、FP16 模型格局),前端模型加密解决方案(保障安全性)。
随同着推理部署工具链的更新,百度飞桨还最新公布了推理部署导航图,并更新了飞桨硬件生态路线图。马艳军示意,目前已充沛验证 300 多条门路,已适配的芯片和 IP 芯片有 31 款。
此外,去年公布的量子机器学习开发工具「量桨」和生物计算平台「PaddleHelix 螺旋桨」也有新降级。
飞桨企业版新降级
去年 5 月 20 日,百度飞桨公布了飞桨企业版。如下图所示,飞桨企业版包含「一核两翼」,右翼是零门槛 AI 开发平台 EasyDL,赋能 AI 利用开发者;左翼是全功能 AI 开发平台 BML,专为 AI 算法开发者服务,帮忙晋升开发效率。
在此次峰会上,百度 AI 产品研发部总监忻舟介绍了飞桨企业版的最新降级。
EasyDL 降级:
- 自动化建模机制继续降级;
- 主动场景适配优化;
- 模型自动化评估与辅助诊断。
BML 降级:
- BML 预置模型开发,基于预训练的低代码建模,优选 67 套组件,节俭 80% 的开发工夫
此外,飞桨企业版最新公布了云原生机器学习外围 PaddleFlow,马艳军示意这是业界首个专为 AI 筹备的云原生平台,PaddleFlow 核心技术行将开源。
除了百度飞桨的更新外,飞桨还联结学术界和产业界,独特开启飞桨大航海打算,助力 AI 人才培养、产业智能化降级和前沿摸索。飞桨的合作伙伴分享了利用飞桨的产业翻新实际、人才联结造就打算等。