8月AI实战：工业视觉缺点检测
--基于tflite的yolov8模型优化和推理
操作视频见B站连贯：aidlux模型优化+工业缺点检测～～完满用我的华为手机实现缺点检测的推理bilibiliaidlux模型优化+工业缺点检测～～完满用我的华为手机实现缺点检测的推理
1 模型优化
将onnx模型转化为tflite模型
关上网站：http://aimo.aidlux.com/输出试用账号和明码：账号：AIMOTC001 ，明码：AIMOTC001通过页面中的提醒AI Model Optimizer，顺次执行步骤①上传模型②抉择指标平台③参数设置④转换后果。
通过上述①-④可将onnx模型转为tflite模型
模型转换过程蕴含如下日志信息
2023-09-07 19:47:05,969 - INFO : Optimization started.2023-09-07 19:47:05,970 - INFO : [ONNX-SIM] Clean ONNX Model input node.2023-09-07 19:47:06,733 - INFO : [ONNX2TFLITE] Start converting to TFLITE.2023-09-07 19:47:28,511 - INFO : Model optimization done.2 推理的py文件
模型采纳课程中提供的yolov8_slimneck_SIOU.ONNX，转化完模型门路及名称，如下
# 模型model_path = "/home/lesson3/yolov8_slimneck_SIOU_tflite/yolov8_slimneck_SIOU_fp32.tflite"# 测试图片门路image_path = "/home/lesson3/test"模型推理过程蕴含如下步骤：
- 初始化aidlite类并创立aidlite对象
aidlite = aidlite_gpu.aidlite()print("ok")- 加载模型
value = aidlite.ANNModel(model_path, [640 * 640 * 3 * 4], [8400 * 11 * 4], 4, 0)print("gpu:", value)蕴含遍历每一张图片
for root, dirs, files in os.walk(image_path): num = 0 for file in files: file = os.path.join(root, file) frame = cv2.imread(file) x_scale = frame.shape[1] / 640 y_scale = frame.shape[0] / 640将图片转换为模型输出的640*640尺寸
img = cv2.resize(frame, (640, 640))# img_copy=img.coimg = img / 255.0img = np.expand_dims(img, axis=0)img = img.astype(dtype=np.float32)print(img.shape)- 传入模型输出数据
aidlite.setInput_Float32(img)- 执行推理
start = time.time()aidlite.invoke()end = time.time()timerValue = 1000 * (end - start)print("infer time(ms):{0}", timerValue)- 获取输入
pred = aidlite.getOutput_Float32(0)# print(pred.shape)pred = np.array(pred)print(pred.shape)pred = np.reshape(pred, (8400, 11))print(pred.shape) # shape=(8400,11)- 后处理,解析输入
boxes, scores, classes = postProcess(pred, confThresh, NmsThresh)- 绘制保留图像
ret_img = draw(frame, x_scale, y_scale, boxes, scores, classes)ret_img = ret_img[:, :, ::-1]num += 1image_file_name = "/home/result/res" + str(num) + ".jpg"8. 保留图片
cv2.imwrite(image_file_name, ret_img)