转hbm出现scale所有类别输出都一样的问题

用户您好,请详细描述您所遇到的问题,这会帮助我们快速定位问题~

1.芯片型号:J5

2.天工开物开发包OpenExplorer版本:J5_OE_1.1.29

3.问题定位:模型转换

4.问题具体描述

我的模型最后一层是经过argmax的,我在转hbm的时候想输出最后一层(经过argmax的)和倒数第二层(argmax之前的),这样我在训练qat模型和转hbm的时候应该怎么修改呢?

我直接拿的最后一层和倒数第二层转的hbm,转完之后倒数第二层的头(没有经过argmax的)scale所有类别输出都一样,如图所示:

你好,对于第一个问题,如果想将argmax之前的值作为模型输出,可以在forward代码中增加模型的输出节点并插入Dequantize节点;-
第二个问题,暂时不确定scale是否有问题,请问你那边实测的quantized model的精度怎么样啊?