onnx模型输入是float32,数据格式能否选rgb?

onnx模型输入的图像类型是float32,现在我转bin文件时,input_type_train:能否可选为rgb?如果选为rgb,那么我实际输入的图像要改成int8还是uint8?我的模型图像输入后会立即做一个/255的操作,如果用rgb是否有损失?

你好,按照手册的说明来操作即可:

  1. RGB输入不能使用RDK X5板子上Pyhton接口推理,必须使用C/C++接口,并且将uint8的图像数据-128并转为int8
    参考:RGB模型的量化部署实战-以YOLOv5为例

  2. 各类模型验证的数据前处理需要对应处理,并非简单 Letter Box后 / 255 数据
    参考1: RGB输入时quantized.onnx和bin的一致性对比方法
    参考2: RGB/INT8输入注意事项

1 个赞