1.芯片型号:J5
2.天工开物开发包OpenExplorer版本:horizon_j5_open_explorer_v1.1.45-py38_20230322
3.问题定位:模型检查
4.问题具体描述:自己导出的onnx,使用onnxruntime推理正常,在使用hb_mapper 检查模型时候报错说rank维度对不齐,请问该如何排错?
1.芯片型号:J5
2.天工开物开发包OpenExplorer版本:horizon_j5_open_explorer_v1.1.45-py38_20230322
3.问题定位:模型检查
4.问题具体描述:自己导出的onnx,使用onnxruntime推理正常,在使用hb_mapper 检查模型时候报错说rank维度对不齐,请问该如何排错?
您好,注意到您使用的OE版本已经较老了,建议更新到最新的1.1.62试一下,版本发布地址:
地平线征程®️5 OpenExplorer算法工具链 版本发布 (horizon.cc)
或者您也可以通过百度网盘提供onnx模型和yaml文件,我们这边帮忙验证一下
收到,我们正在分析
请问下你这边成功推理的onnxruntime版本是多少
我们这边用onnxruntime==1.2.0推理了一下,有报错:
onnxruntime.capi.onnxruntime_pybind11_state.Fail: [ONNXRuntimeError] : 1 : FAIL : Node (Slice_485) Op (Slice) [ShapeInferenceError] Input axes has invalid data
请问你方便基于1.2.0再导出一次模型吗,然后确认下确实是在onnxruntime==1.2.0环境下能推理,然后再提供给我们一次吧
您好,我这边的onnxruntime版本是1.10.0
我后面尝试下用1.2.0重新导出一下哈
您好,我又用onnxruntime==1.2.0重新导出并推理后,出现了和您一样的问题,大概率应该是版本的问题,在onnxruntime==1.10.0时的推理是没有问题的。
了解。目前地平线的PTQ工具是基于1.2.0开发的,需要您那边的模型能基于1.2.0导出并且成功推理才可以使用。这边建议根据1.2.0下出现的报错信息,调整一下模型结构,能顺利推理了再使用地平线PTQ工具~
好的,非常感谢。
这里还有个疑问,是关于input,在我的onnx中有input为[1,1,6,3,480,800]的6维输入,在转换bin之前是否需要强制将其转为NHWC的4维形式呢?
不需要的,PTQ工具支持对6维输入的模型做转换。
好的,非常感谢您的解答。
您好,地平线工具链在持续迭代优化,为了给您提供更好的服务,希望您能抽出3分钟左右的时间,将您在使用工具链期间的感受和建议告诉我们,您的宝贵意见对我们很重要,非常感谢!-
问卷链接:地平线算法工具链使用满意度反馈