算法推理的任务数的问题

task_num是线程吗?最大可以设置成多大?我的理解是如果推理帧率约等于输入帧率就可以了,如果设置task_num 很大,有什么影响吗

您好,

task_num是就是线程的,底层默认的目前是2个线程,增加一定的数量可以增加性能,但是超过了4个也没啥用的

是的,底层实现其实就是线程,默认是两个线程。如果推理输出帧率约等于输入帧率的话,不需要增加task num。

在一定范围内,task num增加能够提升输出帧率,因为X3只有两个BPU和4个CPU,所以最大建议设置不超过4。超过4可能由于线程频繁切换导致推理输出帧率有所降低。