[模型转换] 删繁就简三秋树,领异标新二月花:(可能是)目前为止 最轻量化的 onnx模型 转换 bin模型 “环境安装”方案

1. Motivation

在往期的教程中,地平线工具链的环境安装都绕不开 天工开物工具包 OR Docker镜像。这两者作为地平线【训练】【量化】【部署】【教程】全功能的集大成者,难免显得有些臃肿,从下图的直观数字中读者可以发现,想要完成X3的上板,如果按照官方教程走,至少需要准备20G的空间。一个朴素的问题是:我们真的需要这20G的所有内容吗?-

往期部署教程截图

2. Method

答案显然是否定的,地平线工程师根据长期实践删繁就简,总结出如下最轻量化的工具链使用方式:

2.1 最简模型转换

为了方便与系统其他环境隔离,我们推荐使用anaconda配置模型转换所需要的环境。

conda create -n test.py3.6 python=3.6 -y
conda activate test.py3.6
git clone https://github.com/xingchensong/toolchain_pkg.git
cd toolchain_pkg && tar -xzf pkg.tar.gz
pip install pkg/* torch numpy

是的你没看错,安装模型转换所需要的环境只需要这五句!

接下来跑一个只有一层conv2d的极简模型从导出onnx到转换为bin的demo:

cd toolchain_pkg/demo
conda activate test.py3.6
python demo.py

demo.py示例

运行结果示例

2.2 最简模型perf

环境安装:

conda activate test.py3.6
conda install graphviz

执行perf:

cd toolchain_pkg/demo
conda activate test.py3.6
python demo.py
hb_perf hb_makertbin_output/demo.bin

perf结果

perf结果详解1

perf结果详解2

perf结果详解3

pip install pkg/* torch numpy一直卡在 coulnd Building wheel for opencv-python 怎么回事啊

(test.py3.6) D:\onnx2bin\toolchain_pkg>pip install pkg/* torch numpy

ERROR: Invalid requirement: ‘pkg/*’

最后这句是不是有问题,我报错,你anaconda版本号是多少,我是才下的最新版。

官方20个G的Docker,没有一个完整的配置文档。真的折磨死新手了。希望这个能用

FPS这么高,是我理解的FPS吗?

先给个赞

啥时候官方来个轻松easy部署2.0版本,现在的有点肝

不是开玩笑吧?为了配原来那个环境,我对硬盘进行重新分区,现在感觉电脑一切都变得不正常了。

当前方案需要的资源包大小:

相比原始的20G, 实现了250倍的压缩

可以上手体验下,就几行配置啪的一下很快的

只有一层卷积