量化25分类的yolov5s模型,导出的onnx与量化的onnx精度差异比较大,已经试了kl,default,以及max,模型链接:链接:百度网盘-链接不存在
提取码:j9kw
--来自百度网盘超级会员V5的分享
labels为:链接:https://pan.baidu.com/s/1LF5J4pH\_QMU-E3TrAc6DDA
提取码:x7ek
--来自百度网盘超级会员V5的分享
量化25分类的yolov5s模型,导出的onnx与量化的onnx精度差异比较大,已经试了kl,default,以及max,模型链接:链接:百度网盘-链接不存在
提取码:j9kw
--来自百度网盘超级会员V5的分享
labels为:链接:https://pan.baidu.com/s/1LF5J4pH\_QMU-E3TrAc6DDA
提取码:x7ek
--来自百度网盘超级会员V5的分享
感谢您使用地平线芯片算法工具链,最近我们在收集大家的满意度反馈,欢迎您填写问卷,详细情况可见:https://developer.horizon.ai/forumDetail/146177053698464782
建议您参考这篇文章进行模型精度调优哈:https://developer.horizon.ai/forumDetail/71036815603174578
试了,不行,没搞定
你好,请问您的OE版本是多少啊?
在精度调优文档中使用不同的校准措施刚导出的onnx精度和模型转换中间产物original_float_model.onnx精度能否对齐呢?
就是这个对不齐
那就是前处理的问题哈,因为此时模型尚未进行量化和编译,只是插入了一个前处理节点。-
建议您仔细检查前处理部分的代码,比如代码均值、方差、归一化等操作和yaml配置中是否重复等
均值在哪里查看呢
这个需要查看你的源代码哈,yaml配置中的是mean_value参数