hb_mapper是否支持int类型输入?

用户您好,请详细描述您所遇到的问题。

1.硬件获取渠道:技术合作

2.当前系统镜像版本:1.1.16

3.当前天工开物版本:1.1.16_20220704

4.问题定位:

pytorch训练了一个模型,一共四个输入,其中两个是torch.float32类型的两个是torch.int32类型的。使用hb_mapper checker命令时候报错:

2022-08-12 14:36:02,381 ERROR [ONNXRuntimeError] : 2 : INVALID_ARGUMENT : Unexpected input data type. Actual: (N11onnxruntime17PrimitiveDataTypeIfEE) , expected: (N11onnxruntime17PrimitiveDataTypeIiEE)

貌似是给int类型的输入提供了float类型的数据?hb_mapper是否默认全都用float类型数据做calibration?

5.开发的demo/案例:

6.需要提供的解决方案:

您好,我们目前是不支持int32类型输入的,建议您把int32类型的输入改为float32哈。

后续有计划支持吗,我这输入是当mask用的,int方便些。

抱歉,目前还没有这个计划哈。