1.芯片型号:J5等
2.天工开物开发包OpenExplorer版本:J5_OE_1.1.29等
3.问题定位:模型转换、板端部署
4.问题具体描述:目标检测模型在经过工具链模型量化之后,不指定算子放在CUP,生成的Bin文件最后部署时,推理结果只有两个阈值:0.401 和 0.802;
然后将网络的最后一小部分算子放到CPU计算,得出的精度比之前的准确,但是耗时大量增加,
如何解决上述问题啊?
1.芯片型号:J5等
2.天工开物开发包OpenExplorer版本:J5_OE_1.1.29等
3.问题定位:模型转换、板端部署
4.问题具体描述:目标检测模型在经过工具链模型量化之后,不指定算子放在CUP,生成的Bin文件最后部署时,推理结果只有两个阈值:0.401 和 0.802;
然后将网络的最后一小部分算子放到CPU计算,得出的精度比之前的准确,但是耗时大量增加,
如何解决上述问题啊?
感谢您使用地平线芯片算法工具链,最近我们在收集大家的满意度反馈,欢迎您填写问卷,详细情况可见:https://developer.horizon.ai/forumDetail/146177053698464782
你好,建议先升级到OE1.1.45版本哈,工具链也是在持续迭代优化的,获取链接:https://developer.horizon.ai/forumDetail/118363912788935318
此外,建议您先不急着将尾部算子跑在cpu上,先使用别的精度调优手段进行精度优化哈,建议您参考这篇文章进行:https://developer.horizon.ai/forumDetail/71036815603174578