请问,J3/J5 双核的BPU在结果输出时是如何做验证,两个核是跑一样的模型还是不同的呢?BPU里做的工作我能理解是做了语义分割和目标物识别,那结果给到CPU,在CPU 里主要完成什么样的工作呢?
你好,今天看到了这个帖子,我这边从工具链角度来答复一下这个问题。
J3/J5都是双核的,主要用于多任务场景,例如并发处理多个摄像头的数据、一个计算平台上并发处理多个任务。以J5为例,目前只支持编译单核模型,也就是同一时间,该模型只能在一个核上跑,J3上支持编译双核模型,这是把模型在编译器层面进行的拆分,用户层面不感知。
关于BPU与CPU的区别,简单来说,BPU是加速核,主要处理的是int8/int16等量化后的数据,CPU处理float类型的数据,比如有些算子BPU不支持或精度不符合预期,此时我们就可以使用CPU来运行该算子,并不是把场景细化到某个计算核上。
请问一下现在J5支持编译双核模型了吗?可以同一时间模型在两个核上跑了吗