我训练的模型无法正确百分比使用bpu怎么办

rt,我尝试将我的yolo模型放入旭日派x3中,但它的运行效率很低,只有百分之10几的bpu占有,通过查看日志发现是最终输出层的预处理占用过多cpu算子,于是我吧detect层移除,使所有节点几乎都是bpu,但我的旭日派x3依旧只有百分之10几的bpu占用,我该怎么办?

您好,可以尝试使用多线程推理来提高BPU使用率,当然我们也有基于ROS2封装好的YOLOv5节点,已经使用C++和多线程优化过了:YOLO | TogetheROS.Bot用户手册 (horizon.cc)

这个我考虑过,但有俩个问题:1、目前百分之10,才fps,官方yolodemo是能跑百分百的,我在想是不是哪里不对

2、目前bpu虽然才只有百分之10,但cpu几乎快干爆了,top命令查到cpu有百分之90的占用,这明显不是一个纯bpu模型应该有的cpu占用量,而bpu又只用了百分之十,感觉这问题有点严重

您好,官方的YOLOv5s是tag为2.0的版本,tag为2.0的YOLOv5s的主干网络的所有层都是跑在BPU上的。您可以参考这篇文档:https://developer.horizon.cc/forumDetail/163807123501918330

呃呃,如何查看自己的网络是不是全在bpu层上跑?我通过check工具检查,我的应该也是在bpu上才是

在使用hb_mapper工具转化是,01脚本即可查看自己的模型的算子是否运行在BPU上

我通过01脚本,脚本告诉我全部算子正确在bpu上