模型转换yaml文件中参数理解问题

您好,请问如下问题

1、在模型转换yaml文件中有参数:core_num=2,使用这个参数量化得到的bin文件在单核情况下是否同样可用?

2、文档中写这个参数的选2的时候双核速度理想情况可以达到单核的1.5倍左右。这个理想速度是指什么情况下的速度呢,此提升在aibenchmark中测试fps时可以体现吗?

3、这个参数对性能如果有这么大的优化为什么不默认开启这个参数呢,在性能调优部分文档也没有推荐打开这个参数来调整性能。这个参数开启后会有什么弊端吗?

你好:

问题1:core_num=2编译时会将模型拆成两个部分,无法在单核情况下使用

问题2和3:针对模型相对较大的时候选择core_num=2,小模型更建议使用core_num=1,因为核之间任务调度等也会带来耗时,具体耗时情况就要具体问题具体分析了。此外,针对多任务、多模型,经常会出现需要某任务独占一个核的情况,因此示例中、调优文档中也并没有将其作为性能优化参数。关于ai_benchmark中评测fps也都是单核的,是为了保持所有场景一致,比如J5只支持编译单核模型

好的,感谢。我验证了下,core_num=2编译出的bin模型,在aibenchmark中将workflow_fps中的“core”参数设为1或者2无法运行,只有在0的双核模式下可以运行。-
这里就看到在“core_num=2”时编译出的模型fps反而比地平线modelzoo中的bin模型测出的fps低很多。双核编译并没能提升性能,反而性能变差了。是因为您提到的“因为核之间任务调度等也会带来耗时”的原因吗

嗯嗯是滴~

好的,谢谢