目前我在做RDK X5上将自己的双目深度估计模型部署到板端,有两个问题请教一下:
- 我目前有模型的onnx和pth,我想对模型做ptq转定点bc再转hbm,plugin和编译器工具链可以在开源社区找到吗?
- 如果我直接转换成bin文件进行部署,其实际效果和转成hbm文件在板端的实际效果是否有不同呢?
目前我在做RDK X5上将自己的双目深度估计模型部署到板端,有两个问题请教一下:
你好,bin模型即为在X5 BPU芯片上支持的加速模型,hbm为在S100芯片推理加速的模型
工具链都在RDK手册1.6章节资源汇总 或 第七章节可以找到
量化后的定点bc模型编译后得到的bin文件是支持量化结构的优化的对吗?
我看了一下RDK X5现在的OE包和工具链还是1.2.8版本,是去年10月的,现在还没有更新对吗?
是的,bin文件是支持量化结构的模型
X5工具链这块目前还没有更新
好的好的 感谢回复~