onnx模型输入的图像类型是float32,现在我转bin文件时,input_type_train:能否可选为rgb?如果选为rgb,那么我实际输入的图像要改成int8还是uint8?我的模型图像输入后会立即做一个/255的操作,如果用rgb是否有损失?
你好,按照手册的说明来操作即可:
-
RGB输入不能使用RDK X5板子上Pyhton接口推理,必须使用C/C++接口,并且将uint8的图像数据-128并转为int8
参考:RGB模型的量化部署实战-以YOLOv5为例 -
各类模型验证的数据前处理需要对应处理,并非简单 Letter Box后 / 255 数据
参考1: RGB输入时quantized.onnx和bin的一致性对比方法
参考2: RGB/INT8输入注意事项
1 个赞