模型转换时出错

用户您好,请详细描述您所遇到的问题,这会帮助我们快速定位问题~

1.芯片型号:X3

2.docker 版本:hub.hobot.cc/aitools/ai_toolchain_ubuntu_gpu:v1.7.8

3.问题定位:模型转换

4.问题具体描述:efficient+bifpn的分割模型转onnx量化时用v2.6.2b版本时,不报错可以生成相关onnx和bin文件,但是量化推理结果有误,用v1.7.8版本直接check不通过01_check.sh ERROR There is an error in pass:eliminate_zero_mul. Error message:std::bad_alloc

无法定位到具体的问题,请问该怎么解决,我这可以提供v2.6.2b版本转化成功的original_float_model.onnx文件和yaml文件

您好,地平线工具链在持续迭代优化,为了给您提供更好的服务,希望您能抽出3分钟左右的时间,将您在使用工具链期间的感受和建议告诉我们,您的宝贵意见对我们很重要,非常感谢!-
问卷链接地平线算法工具链使用满意度反馈

你好,v1.7.8版本有点太老了,大部分问题在版本迭代中都被修复了,建议使用v2.6.2b最新的docker版本,并且要确保模型转换编译和推理验证时使用的工具版本上一致(来自同一版本的docker)。量化后模型推理结果有误,建议先参考文章 模型精度验证及调优建议 (horizon.cc) 定位量化模型精度掉点的阶段

找到掉点的地方了,在02_preprocess.sh,这一步从测试集中选了100张图,03_build之后预测结果几乎都是背景类精度非常非常低,现在只放1张图有一定精度了至少能预测出其他类了,但是精度还是掉的比较明显,明显大于4%,我在训练时采用了图像色彩饱和度变换等,但在转化这100张图像的时候没用会是这个原因么

你好,02_preprocess.sh作用是对校准数据(50-100张数据)进行预处理,预处理操作应和模型训练时一致