板端nv12多batch推理样例疑惑

应用开发 算法工具链
,
1

1.芯片型号：J5

2.天工开物开发包OpenExplorer版本：horizon_j5_open_explorer_v1.1.29_20221103

3.问题定位：板端部署

4.问题具体描述：OE包中提供了一个nv12的多batch推理样例nv12_batch.cc，其中输入tensor的空间分配方式：prepare_tensor_batch_separate，prepare_tensor_batch_combine。在prepare_tensor_batch_separate中有针对HB_DNN_IMG_TYPE_NV12和HB_DNN_IMG_TYPE_NV12_SEPARATE这两种输入类型的tensor的空间分配逻辑，但是prepare_tensor_batch_combine中只有对HB_DNN_IMG_TYPE_NV12这种类型的tensor的空间分配逻辑。HB_DNN_IMG_TYPE_NV12_SEPARATE这种类型的tensor无法使用prepare_tensor_batch_combine这种空间分配方式吗？

2

您好。因为这是针对NV12写的示例但并不代表NV12_SEPERATE就不支持哈，两种数据类型都是可以使用batch方式做推理的，只是我们没把NV12_SEPERATE的示例代码完全写出来。

3

你好，谢谢解答。如果batch的大小为n，在prepare_tensor_batch_combine的情况下，HB_DNN_IMG_TYPE_NV12_SEPARATE类型的tensor也是sysMem[0]分配n倍的Y大小的空间，然后sysMem[1]分配n倍的UV空间大小这样的分配方式？

4

是支持的。