在部署算法时,经过打印,对比的数据格式无误,但总是显示参数值错误.
情景大致如下:
1.在PC端训练后,转为onnx模型,验证无误:输入格式为1x24的扁平输入(float32);
2.经RDKx5工具链转换为bin模型,check显示可以部署在bpu上;
3.在板子上进行测试,总是显示输入格式错误,但反复核对找不出错误.
因官网以及地平线工具链示例的github工程中,尚未找到关于扁平化输入的量化模型示例,且版本较多,RDK x5缺少部分与RDK x3功能相似的示例,暂时无法找到相关参考,因此求助如下:
1.官网或者其他官方工程有无关于扁平化输入量化模型的示例;
2.对于扁平化输入模型,其实际输入转nchw后依旧报错,是转化时的配置文件仍然需要修改吗?
报错:
关键的推理代码(删除部分调试用的打印内容):
附加的文件中,显示了模型转换时的yaml,以及check时的报告与转化后的bin模型,python测试代码
最新进度与报错:在进行一番修改后,成功导出了(通过check与对比)NHWC输入格式的模型,但是在测试代码中仍然无法正确运行,且报错模糊,无法精确定位错误:
因为DNN预编译的性质,堆栈也无法定位到准确原因,或者说看不出准确原因(此进度下的代码为PPO_test2)
rdkos_info.txt-
ppo_pth2onnx_fixed_config.yaml-
ppo_pth2onnx_fixed.bin-
ppo_test1.py-
ppo_test2.py


