J5板端模型推理精度与开发机int8模型推理精度不一致

1.芯片型号:J5

2.天工开物开发包OpenExplorer版本:J5_OE_1.1.57

3.问题定位:板端推理与开发机推理结果不一致

4.问题具体描述

你好,我们训练了一个雷达点云与图像融合的BEV检测模型,仿真上板精度与模型quantize精度是一致的,但是将模型编译后在J5板端推理,精度出现了偏差。

其中几个类别的检测精度和开发机端quantize精度是接近的,但是有一个类别检测精度,板端比quantize精度掉了8个点左右,这有什么好查找的方法吗?

我看参考算法提供了centerpoint算法,不知道你们有没有测试过,J5板端精度与开发机端int8精度是不是完全一致?

您好,先用hbdk-model-verifier工具测一下hbm和pt模型的一致性吧。这个工具在OE的docker环境下可以在命令行直接使用,可以用-h查看使用方法。

你好,我试了下,有个错误,具体是在 /horizon_plugin_pytorch/nn/quantized/function_impl.py的2514行,canvas[index]=voxel_features下标出界, indexerror: index -393405971 is out of bounds for dimension 0 with size 102400。我试了下参考算法中centerpoint模型,也是这个错误。这里是因为随机生成的数据导致索引出界是吗?

您好,使用hbdk-model-verifier工具验证centerpoint的hbm和pt模型一致性时,需要使用真实的点云数据,使用随机生成的数据会导致index超限的

谢谢,使用真实的数据,模型一致性检查通过了。