关于机器学习:LabVIEW开放神经网络交互工具包ONNX大幅降低人工智能开发门槛实现飞速推理

前言

后面给大家介绍了本人开发的 LabVIEW ai 视觉工具包，起初发现有一些 onnx 模型无奈应用 opencv dnn 加载，且速度也偏慢，所以就有了明天的 onnx 工具包，如果你想要加载更多模型，谋求更高的速度，那能够应用 LabVIEW onnx 工具包实现模型的推理与减速。

一、工具包内容

这个凋谢神经网络交互工具包次要劣势如下：

1. 简略编程：图形化编程，无需把握文本编程根底即可实现机器视觉我的项目;
2. 提供多种框架生成的 onnx 模型导入模块：包含 pytorch、caffe、tensorflow、paddlepaddle 等生成的 onnx 模型；
3. 多种高效减速推理接口：CUDA、TensorRT 对模型进行最大化的减速；
4. 反对多种硬件加速：反对 Nvidia GPU、Intel、TPU、NPU 多种硬件加速
5. 提供近百个应用程序范例：包含物体分类、物体检测、物体测量、图像宰割、人脸识别、天然场景下 OCR 等多种实用场景.

工具包中的函数选版如下：

例如，一个摄像头采集并进行 yolov5 指标检测的范例程序，只需在 LabVIEW 中编写简略的图形化程序，即可实现。在大量简化编程难度的同时，也放弃了 c ++ 的高效运行个性。

通常咱们做我的项目，在部署过程中想要减速，无非就那么几种方法，如果咱们的设施是 CPU，那么能够用 openvion，如果咱们心愿可能应用 GPU，那么就能够尝试 TensorRT 了。那么为什么要抉择 TensorRT 呢？因为咱们目前次要应用的还是 Nvidia 的计算设施，TensorRT 自身就是 Nvidia 自家的货色，那么在 Nvidia 端的话必定要用 Nvidia 亲儿子了。

不过因为 TensorRT 的入门门槛稍微有些高，间接劝退了想要入坑的玩家。其中一部分起因是官网文档比拟芜杂；另一部分起因就是 TensorRT 比拟底层，须要一点点 C ++ 和硬件方面的常识，学习难度会更高一点。咱们做的 凋谢神经网络交互工具包 GPU 版本 ，间接将 TensorRT 一起集成到了 onnx_session 中， 能够加载任何 onnx 模型，能够应用 CUDA 或者 TensorRT 减速, 实现高效的推理

二、工具包下载链接

https://pan.baidu.com/s/1vwCp1LuKEjYGM4goNYMagw?pwd=yiku

三、工具包装置步骤

具体装置步骤可查看：LabVIEW 凋谢神经网络交互工具包（ONNX)（非 NI Vision）下载与装置教程

四、实现物体辨认

无论应用何种框架训练物体检测模型，都能够无缝集成到 LabVIEW 中，并应用工具包提供的 CUDA、tensorRT 接口实现减速推理，模型包含但不限于：

• yolov5、yolov6、yolov7、pp-yoloe、yolox
• torchvision 中的图像分类、指标检测模型等

通过算法优化，在 LabVIEW 中运行模型的速度显著好于 python，这对于对性能要求较高的工业现场来说十分敌对实用。比如说：工地安全帽检测、物体外表缺点检测等，如下图进行物体辨认，在 GPU 模式下，无论是运行速度和识别率都能够达到工业级别。

• yolov4 实现目标检测：

• 基于 onnx，yolov5 应用 tensorRT 实现推理减速：

• NI vision 采集图像、tensorRT 减速实现 yolov5 指标检测

• yolov5 实现口罩检测：
• yolov5 实现安全帽检测：
• yolov6 实现目标检测：
• yolox 实现目标检测：
• 百度 PP-YOLOE 实现目标检测：

五、实现图像宰割

图像宰割是当今计算机视觉畛域的关键问题之一。从宏观上看，图像宰割是一项高层次的工作，为实现场景的残缺了解铺平了路线。场景了解作为一个外围的计算机视觉问题，其重要性在于越来越多的应用程序通过从图像中推断常识来提供养分。随着深度学习软硬件的减速倒退，一些前沿的利用包含主动驾驶汽车、人机交互、医疗影像等，都开始钻研并应用图像宰割技术。

本次集成的工具包提供了多种图像宰割的调用模块，并实现了 GPU 模式下 TensorRT 的减速运行。如：
语义宰割：Segnet、deeplabv1~deeplabv3、deeplabv3+、u-net 等；
实例宰割：Mask-RCNN、PANet 等

六、天然场景下的文字辨认

工具包提供了文本检测定位（DB_TD500_resnet50、EAST）、文本辨认的模块（CRNN)，用户能够应用该模块实现天然场景下的中英文文字辨认

利用：身份证辨认、表单辨认、包装盒标签检测等

七、人脸检测与辨认

八、人体关键点检测

人体骨骼关键点对于形容人体姿势，预测人体行为至关重要。因而人体骨骼关键点检测是诸多计算机视觉工作的根底，例如动作分类，异样行为检测，以及主动驾驶等等。近年来，随着深度学习技术的倒退，人体骨骼关键点检测成果一直晋升，曾经开始广泛应用于计算机视觉的相干畛域。
本次集成的工具包提供了关键点检测的调用模块，并实现了 GPU 模式下 TensorRT 的减速运行。

总结

工具包的具体应用能够关注博主的后续博客，如果有问题能够在评论区里探讨，发问前请先点赞反对一下博主哦
更多问题可增加技术交换群进行进一步的探讨。qq 群号：705637299,，进群请备注暗号：LabVIEW 机器学习

如果文章对你有帮忙，欢送关注、点赞、珍藏