一、工具链使用问题。
1、在J5上部署yolop(类似于yolov5)模型时,发现目标检测的输出的前景置信度为零,其他输出有一些精度误差。
2、尝试多种量化方法后,目标检测的box坐标部分精度有了提高,但输出的前景置信度依然为零。
3、使用hb_mapper infer工具运行 quantized_model.onnx和optimized_float_model.onnx,量化前后的模型。再使用vec_diff工具对比两个模型的输出后,发现
如图和附件所示,Conv_for_Add层的精度很低。
可能导致输出异常。
4、原onnx模型经过测试正常输出。