关于paddle:模型推理耗时降低98PaddleTS又双叒叕带来重磅升级

44次阅读

共计 2775 个字符,预计需要花费 7 分钟才能阅读完成。

大家好,飞桨时序模型库 PaddleTS 的重磅降级啦!明天为大家介绍带来的是 PaddleTS 此次降级的核心内容解读,快来看看有没有你所期待的新内容!

飞桨时序模型库 PaddleTS 具备对立的时序数据结构、全面的根底模型性能、丰盛的数据处理和剖析算子以及当先的深度时序算法,能够帮忙开发者实现时序数据处理、剖析、建模、预测全流程,在预测性保护、能耗剖析、价格销量预估等场景中有重要利用价值。

近期,PaddleTSv1.1 版本重磅公布,带来了在模型推理、模型可解释性、新增模型算法等多方面的重要降级:

  • 更高效的推理部署 :基于 Paddle Inference 实现高吞吐、低时延的推理部署,MLP 模型推理耗时升高 98%!
  • 新增时序分类模块 :笼罩更多利用场景需要,让开发者一站式解决时序分类问题!
  • 晋升模型解释能力 :两种技术实现模型解释性,帮忙开发者更好了解模型后果!
  • 表征学习反对分类与聚类 :针对先进的表征学习,提供即开即用的表征分类与聚类模型,进步开发效率!
  • 裁减深度学习模型 :减少更多时序预测与异样检测模型,帮忙开发者摸索更多的当先模型!

⬇️GitHub 传送门

https://github.com/PaddlePadd…

⭐️欢送 Star 关注⭐️

可利用 Paddle Inference 进行推理部署

Paddle Inference 是飞桨的原生推理库,作用于服务器和云端,提供高性能的推理能力。其针对不同平台不同的利用场景进行了深度的适配优化,提供了 C、C++、Python、Golang 四种 API,实现做到高吞吐、低时延的推理部署。同时,通过对计算图的剖析,实现对计算图的一系列的优化,如 OP 的交融、内存 / 显存的优化、MKLDNN、TensorRT 等底层减速库的反对等。

PaddleTSv1.1 反对了原生飞桨 Paddle Network 模型的导出以及前序数据主动构建性能,实现 PaddleTS 模型在多零碎、多语言、多平台的适配。开发者利用 Paddle Inference 即可实现推理部署,减速 PaddleTS 模型利用的最初一公里,保障了 PaddleTS 模型在服务器端即训即用,疾速部署。

以 MLP 和 Informer 为例,应用 Paddle Inference 推理后,MLP 模型推理耗时升高约 98%,Informer 模型推理耗时升高约 50%。

  • 🚗直通车

https://paddlets.readthedocs….

减少时序分类模块

工夫序列分类是时序预测工作中的一种,其目标是利用标记好的训练数据(每个工夫序列所属类别),预测将来工夫序列的分类,从而领导决策。工夫序列分类在一些工夫敏感的应用领域至关重要,例如衰弱信息学、异样检测、设施状态辨认等。

PaddleTSv1.1 的时序分类模块,新增两个时序分类深度模型——经典的 CNN 以及当先的 InceptionTime,同时提供 ClassifyBaseModel 基类,开发者可利用其构建时序分类模型。
同时,PaddleTSv1.1 反对两种分类后果评估形式,既可间接应用 PaddleTS 中预置的 accuracy_score 函数,也可调用 sklearn.metrics 相干评估算子,实现模型分类成果的评估。
开发者能够应用 PaddleTS 构建时序分类模型,失去将来工夫序列的分类后果及每个分类的概率,如设施故障类型、患病类型等。也可用来辅助用于时序数据的预处理,如检测数据周期性并剔除,从而进行失常历史数据的学习或异样检测,实现预测或检测准确率的晋升。

  • 🚗直通车

https://paddlets.readthedocs….

晋升模型可解释能力

近年来随着深度学习的倒退,深度时序模型逐渐超过了浅层模型获得了更好的成果。但深度模型因为其简单的网络结构,往往难以解释预测后果是如何产生的,给使用者带来困扰,由此,模型解释性技术应运而生。PaddleTSv1.1 提供 ante-hoc(模型相干)和 post-hoc(模型无关)两种形式晋升模型可解释性。

ante-hoc(模型相干)

ante-hoc 是一种模型相干的办法,即开发者在模型设计阶段就思考了模型可解释性的问题,因而往往会设计非凡的模型构造或损失函数,便于对已训练好的模型进行评估。PaddleTSv1.1 的 ante-hoc 模块引入了 TFT 模型,别离从特色权重、注意力评分角度对模型后果进行解释。

  • 特色权重

特色权重在把握模型的要害特色方面具备重要作用,特色权重越高,代表特色对预测后果的影响越大。TFT 模型将时序特色能够分为动态特色、历史特色、将来特色三类,用户能够剖析不同类别下的特色权重。

  • 注意力评分

在进行工夫序列建模时,不同时刻点之间存在着肯定的相互依赖关系,自注意力机制能够最大水平上开掘任意两个点之间的关系,从而在进行时序预测时抽取强相干特色点的要害信息,使得预测更加精确。自注意力评分能够帮忙用户判断对于预测后果影响更大的工夫序列节点。以 TFT 模型为例,注意力评分反对从“单步多分位数预测”与“多步单分位数预测”两个角度给出注意力机制的分数权重的可视化展现,帮忙开发者更好地剖析工夫序列的周期模式。

post-hoc(模型无关)

post-hoc 是一种模型无关的办法,把模型视为一个黑盒,通过内部增加扰动或建设一个代理模型等办法,对已训练好的模型进行评估和解释。PaddleTSv1.1 的 post-hoc 模块,基于 SHAP 办法实现了模型的特色归因,开发者仅需将模型和训练数据作为输出,即可失去不同工夫、协变量对输入后果的奉献,帮忙决策者了解模型后果、领导业务优化。

  • 🚗直通车

https://paddlets.readthedocs….

表征学习反对分类和聚类

在历史版本中,PaddleTS 提供了表征预测模型 ReprForecaster,实现了表征学习和上游预测工作相结合的全流程封装,防止用户解决表征与上游工作联合的简单解决流程,在解决表征预测问题的同时升高开发者应用门槛,真正实现了模型的即开即用。
PaddleTSv1.1 减少了表征分类模型 ReprClassifier 和表征聚类模型 ReprCluster,针对时序分类和时序聚类问题也能够实现表征学习的疾速利用。

  • 🚗直通车

https://paddlets.readthedocs….

❤️以上就是本次 PaddleTSv1.1 降级的外围性能解读,更多新性能可点击下方链接查看,欢送大家踊跃试用。

  • PaddleTSv1.1 性能概览

https://github.com/PaddlePadd…

相干链接

  • 我的项目 GitHub

https://github.com/PaddlePadd…

  • 我的项目文档

https://paddlets.readthedocs.io/

  • GitHub Issue 反馈

https://github.com/PaddlePadd…

正文完
 0