yolov8推理速度问题

应用开发 算法工具链
1

1.芯片型号：J5

2.天工开物开发包OpenExplorer版本：J5_OE_1.1.33

3.问题定位：板端部署

4.问题具体描述：yolov8s部署到板端后，模型输出为（1*8400*84），经过后处理得到结果，整个过程为240ms左右，推理时间100ms左右，请问如何能够提升整个板端部署的性能？

2

请问一下博主可以分享一下Yolov8推理的C++代码吗

3

您好，地平线工具链在持续迭代优化，为了给您提供更好的服务，希望您能抽出3分钟左右的时间，将您在使用工具链期间的感受和建议告诉我们，您的宝贵意见对我们很重要，非常感谢！-
问卷链接：地平线算法工具链使用满意度反馈

4

你好，yolov8模型性能可以通过以下方式优化：1.修改ultralytics/ultralytics/nn/modules/head.py里检测头类的forward函数，去掉特征解码部分，放到后处理中；2.参考地平线高效实现的mixvargenet/vargenet，采用可分离组卷积提高访存比，减少带宽压力，参考 【参考算法】地平线 MixVarGENet参考算法-V1.2.1 (horizon.cc) 。Yolov8模型的优化文档即将在社区释放，可以关注一下。

5

好的 非常感谢

6

好的 非常感谢

7

你好，Yolov8的优化文档已经初步在社区释放并同步更新，仅供参考【前沿算法】地平线适配 YOLOv8 -v1.0.0 (horizon.cc)