yolov5s模型从onnx转换成bin文件时报错:Only list, str and generator/iterator type calibration data are supported

你好,从报错看,是数据格式不支持导致的,模型转换时建议参考这篇文章进行一些数据预处理哈:

https://developer.horizon.ai/forumDetail/118363912788935513

您好,想确认一下我的问题大概是出在哪一步了,因为看报错确实不知道该如何排查。

我是因为yolov5s模型的问题,还是说pt转onnx出了问题(hb_checker是检查通过的),还是说onnx转bin出了问题?因为onnx转bin的过程中,无论是yaml配置文件,还是数据预处理,都没有关于“数据类型”的设置。

您好,根据报错提示,是onnx转bin阶段出现问题。看您的截图,请问您是不是用的OE2.3.3版本,后装了horizon-nn库?

为了避免版本不匹配造成的问题,我这边给您提供三个whl包,可以通过链接下载:

https://pan.horizon.ai/index.php/s/xpt9pHtrAY7M7MC

在docker中,解压后,通过命令安装:pip install ***.whl

然后重走模型转换流程。

在用户手册如下图位置,是有关于校准数据类型的配置的哈~

您好我有一个问题,为什么我看到的页面和你看到的页面不一样,没有找到cal_data_type。

PS:我回复消息无法添加照片,给你看一下我的链接:https://developer.horizon.ai/api/v1/fileData/doc/ddk\_doc/navigation/ai\_toolchain/docs\_cn/horizon\_ai\_toolchain\_user\_guide/model\_conversion.html#model-conversion

抱歉哈,社区在线手册没有及时把这个参数更新进来,感谢您的反馈,我们会及时更新。我上面发的截图是OE2.3.3开发包中doc/cn/下的XJ3用户手册文档,您可以阅读OE2.3.3包中的用户手册查看到这个参数