关于人工智能:模型推理deepstreamapp-介绍

7次阅读

共计 1451 个字符,预计需要花费 4 分钟才能阅读完成。

欢送关注我的公众号 [极智视界],回复 001 获取 Google 编程标准

O_o>_<   o_OO_o~_~o_O

  本文介绍了 deepstream-app 的应用与配置阐明。

   对于 deepstream 的装置能够参考我之前写的文章《【教训分享】ubuntu 装置 deepstream6.0》、《【教训分享】ubuntu 装置 deepstream5.1》,胜利装置后会在 /usr/bin 里生成一些例程可执行程序,如 deepstream-app 就是最根底的一个,这里通过这篇文章介绍一下 deepstream-app 的应用和配置阐明。

1、deepstream 架构

   deepstream 架构图如下:

   deepstream 参考了 GStreamer 来构建,由很多插件形成,如能够看到 VIDEO DECODE 视频编解码、TensorRT 推理引擎、OpenCV 跟踪器、显示渲染插件等。上面列举一下次要插件:

  • Gst-nvstreammux:这是个流会集的插件,将多个输出流会集到一批缓冲区;
  • Gst-nvdspreprocess:在事后设置的 ROIs 上做预处理;
  • Gst-nvinfer:基于 TensorRT 的推理插件,这是最外围的;
  • Gst-nvtracker:基于 OpenCV 的跟踪插件,用于指标 ID 的跟踪;
  • Gst-nvmultistreamtiler:用于造成二维数组模式视频帧;
  • Gst-nvdsosd:这是屏幕显示插件,用于画一些 boxes、检测框等;
  • Gst-nvmsgconv 和 Gst-nvmsgbroker:用于将剖析的数据传输至云服务器。

2、deepstream-app 配置阐明

   deepstream-app 是 deepstream SDK 中的一个例程可执行程序,性能也是非常弱小,外面的配置也是比拟多,这里具体介绍一下。

   deepstream-app 的配置被拆成了组的模式进行积木搭建,次要有以下这些组:

   每个具体的 groups 中又会有很多的配置参数,其中 Primary GIE and Secondary GIE Group 这个插件就是加载 TensorRT ENG 进行推理用的,这里 NVIDIA 的官网文档讲的非常分明,能够进行相应的查问,这里就不多说了,传送:https://docs.nvidia.com/metro…

  轻易看一些理论跑 deepstream-app 的时候 config 里的货色:

   能够看到像 application、tiled-display、source、sink… 这些都是能够从下面 NVIDIA 中给出的查问表中查到对应的配置阐明的,须要批改的话对应批改一下就行了,这也是 deepstream 的初衷,按性能拆分成小插件,以插件化搭积木模式疾速构建深度学习利用,使用者不须要深刻了解每个小插件的开发方式。

3、deepstream-app 的应用成果

  按如下操作演示一个例程:

cd /opt/nvidia/deepstream/deepstream/samples/configs/deepstream-app

deepstream -c ./source4_1080p_dec_infer-resnet_tracker_sgie_tiled_display_int8.txt

   会蹦出一个演示视频来,这里放了个截图,成果还是不错的。

  这里分享和介绍了一下 deepstream-app 的应用和配置阐明,心愿我的分享能对你的学习有一点帮忙。


【公众号传送】
《【模型推理】deepstream-app 介绍》

正文完
 0