工具链转换原onnx模型,生成的浮点模型出现比较大的误差。

在使用最新版工具链时,以及测试了以前的工具链,都出现了转换模型Fcos3D时,工具链对原onnx模型转换出来的浮点模型结果就已经不可用了,量化后直接没有正确输出了。请问有什么解决或者查看误差来源的办法吗?

感谢您使用地平线芯片算法工具链,最近我们在收集大家的满意度反馈,欢迎您填写问卷,详细情况可见:https://developer.horizon.ai/forumDetail/146177053698464782

你好,请您先参考这篇文章进行精度定位哈:https://developer.horizon.ai/forumDetail/71036815603174578