前言

后面给大家介绍了本人开发的LabVIEW ai视觉工具包，起初发现有一些onnx模型无奈应用opencv dnn加载，且速度也偏慢，所以就有了明天的onnx工具包，如果你想要加载更多模型，谋求更高的速度，那能够应用LabVIEW onnx工具包实现模型的推理与减速。

一、工具包内容

这个凋谢神经网络交互工具包次要劣势如下：

  1. 简略编程：图形化编程，无需把握文本编程根底即可实现机器视觉我的项目;
  2. 提供多种框架生成的onnx模型导入模块：包含pytorch、caffe、tensorflow、paddlepaddle等生成的onnx模型；
  3. 多种高效减速推理接口：CUDA、TensorRT对模型进行最大化的减速；
  4. 反对多种硬件加速：反对Nvidia GPU、Intel、TPU、NPU多种硬件加速
  5. 提供近百个应用程序范例：包含物体分类、物体检测、物体测量、图像宰割、 人脸识别、天然场景下OCR等多种实用场景.

工具包中的函数选版如下：

例如，一个摄像头采集并进行yolov5指标检测的范例程序，只需在LabVIEW中编写简略的图形化程序，即可实现。在大量简化编程难度的同时，也放弃了c++的高效运行个性。


通常咱们做我的项目，在部署过程中想要减速，无非就那么几种方法，如果咱们的设施是CPU，那么能够用openvion，如果咱们心愿可能应用GPU，那么就能够尝试TensorRT了。那么为什么要抉择TensorRT呢？因为咱们目前次要应用的还是Nvidia的计算设施，TensorRT自身就是Nvidia自家的货色，那么在Nvidia端的话必定要用Nvidia亲儿子了。

不过因为TensorRT的入门门槛稍微有些高，间接劝退了想要入坑的玩家。其中一部分起因是官网文档比拟芜杂；另一部分起因就是TensorRT比拟底层，须要一点点C++和硬件方面的常识，学习难度会更高一点。咱们做的凋谢神经网络交互工具包GPU版本，间接将TensorRT一起集成到了onnx_session中，能够加载任何onnx模型，能够应用CUDA或者TensorRT减速,实现高效的推理

二、工具包下载链接

https://pan.baidu.com/s/1vwCp1LuKEjYGM4goNYMagw?pwd=yiku

三、工具包装置步骤

具体装置步骤可查看：LabVIEW凋谢神经网络交互工具包（ONNX)（非NI Vision）下载与装置教程

四、实现物体辨认

无论应用何种框架训练物体检测模型，都能够无缝集成到LabVIEW中，并应用工具包提供的CUDA、tensorRT接口实现减速推理，模型包含但不限于：

  • yolov5、yolov6、yolov7、pp-yoloe、yolox
  • torchvision中的图像分类、指标检测模型等

通过算法优化，在LabVIEW中运行模型的速度显著好于python，这对于对性能要求较高的工业现场来说十分敌对实用。比如说：工地安全帽检测、物体外表缺点检测等，如下图进行物体辨认，在GPU模式下，无论是运行速度和识别率都能够达到工业级别。

  • yolov4实现目标检测：

  • 基于onnx，yolov5应用tensorRT实现推理减速：

  • NI vision采集图像、tensorRT减速实现yolov5指标检测

  • yolov5实现口罩检测：
  • yolov5实现安全帽检测：
  • yolov6实现目标检测：
  • yolox实现目标检测：
  • 百度PP-YOLOE实现目标检测：

五、实现图像宰割

图像宰割是当今计算机视觉畛域的关键问题之一。从宏观上看，图像宰割是一项高层次的工作，为实现场景的残缺了解铺平了路线。场景了解作为一个外围的计算机视觉问题，其重要性在于越来越多的应用程序通过从图像中推断常识来提供养分。随着深度学习软硬件的减速倒退，一些前沿的利用包含主动驾驶汽车、人机交互、医疗影像等，都开始钻研并应用图像宰割技术。

本次集成的工具包提供了多种图像宰割的调用模块，并实现了GPU模式下TensorRT的减速运行。如：
语义宰割：Segnet、deeplabv1~deeplabv3、deeplabv3+、u-net等；
实例宰割：Mask-RCNN、PANet等

六、天然场景下的文字辨认

工具包提供了文本检测定位（DB_TD500_resnet50、EAST）、文本辨认的模块（CRNN)，用户能够应用该模块实现天然场景下的中英文文字辨认

利用：身份证辨认、表单辨认、包装盒标签检测等



七、人脸检测与辨认

八、人体关键点检测

人体骨骼关键点对于形容人体姿势，预测人体行为至关重要。因而人体骨骼关键点检测是诸多计算机视觉工作的根底，例如动作分类，异样行为检测，以及主动驾驶等等。近年来，随着深度学习技术的倒退，人体骨骼关键点检测成果一直晋升，曾经开始广泛应用于计算机视觉的相干畛域。
本次集成的工具包提供了关键点检测的调用模块，并实现了GPU模式下TensorRT的减速运行。

总结

工具包的具体应用能够关注博主的后续博客，如果有问题能够在评论区里探讨，发问前请先点赞反对一下博主哦
更多问题可增加技术交换群进行进一步的探讨。qq群号：705637299,，进群请备注暗号：LabVIEW机器学习

如果文章对你有帮忙，欢送关注、点赞、珍藏