征途J5 在量化模型时遇到CONV_FOR_Add一类算子精度,导致输出异常的情况

一、工具链使用问题。

1、在J5上部署yolop(类似于yolov5)模型时,发现目标检测的输出的前景置信度为零,其他输出有一些精度误差。

2、尝试多种量化方法后,目标检测的box坐标部分精度有了提高,但输出的前景置信度依然为零。

3、使用hb_mapper infer工具运行 quantized_model.onnx和optimized_float_model.onnx,量化前后的模型。再使用vec_diff工具对比两个模型的输出后,发现

如图和附件所示,Conv_for_Add层的精度很低。

可能导致输出异常。

4、原onnx模型经过测试正常输出。

vec_diff_yolop_default_1_20230106144418.csv

感谢您使用地平线芯片算法工具链,最近我们在收集大家的满意度反馈,欢迎您填写问卷,详细情况可见:https://developer.horizon.ai/forumDetail/146177053698464782

根据csv文件看,模型的最后几层输出的余弦相似度都挺高的,部分中间层的相似度较低这种情况是正常的,主要还是看模型的输出

根据您的问题描述,前景置信度为0,那是不是可以理解成无法生成box框,但您提到box坐标部分精度有所提升,如果置信度为0,是如何去生成box的呢?

您好,请问使用的征程J5工具链版本是?

使用NV12作为输入后问题解决了

好滴,解决就好

感谢大佬