请问多个bin模型打包后的模型,在C++部署和使用时接口是怎么样的,相关文档和例子在哪里

您好。如图,文档提供了打包多个模型为一个.bin的接口,并说“我们也为打包后的模型提供了接口”。

(1)请问这些接口是什么样的?

(2)请问X3M芯片上,用DNN Node类如何运行打包后的模型?-

可以查看bpu sdk api手册,有DNN句柄hbPackedDNNHandle_t,同时hbDNNInitializeFromFiles,hbDNNInitializeFromDDR,hbDNNRelease,hbDNNGetModelNameList,hbDNNGetModelHandle等常规API也支持对打包模型的处理。

里面很多api很难看的懂怎么使用,手册写的太简单了,都没有使用示例,根本不知道干嘛用的,就写了传参,返回。

ddk/samples/ai_toolchain/horizon_runtime_sample有大量的这些API的使用示例,可以从code/00_quick_start开始了解。模型解析出来后是一个模型列表,如果你是只读取了一个打包的模型,那么读取这个打包的模型之后,里面的所有模型也都被解析出来了,可以使用model_name_list和model_count这两个变量。