[图像算法][RDK X3]Softmax层hb_verifier一致性验证不通过

2025-06-06 16:29:25,422 INFO mismatch result num: 34

2025-06-06 16:29:25,423 INFO total result num: 1310720

2025-06-06 16:29:25,423 INFO mismatch rate: 0.0

2025-06-06 16:29:25,424 INFO relative mismatch ratio: 0.0012315270935962224

2025-06-06 16:29:25,424 INFO max abs error: 1.0000000000003062e-05

2025-06-06 16:29:25,425 WARNING raw output disp and raw output disp result Strict check FAILED

2025-06-06 16:29:25,425 WARNING Quanti.onnx and Sim result Strict check FAILED

模型排查到softmax层发现一致性验证没有通过,往前一层通过。而且当calibration_type为 skip时,一致性也能通过,这是为什么?

calibration_type为max所使用的图像以及模型等都在以下链接上:

百度网盘 请输入提取码 提取码: 1234

请问你check不通过会影响到什么么?

calibration_type为 skip时,模型不会量化,是纯随机数据

那为什么skip的时候也有量化的onnx模型?所以还是得要有数据时测的一致性才可靠是吗

就是通过了才进入到下一个环节,不通过后面验证的可能都有问题,例如要验证效果一致性,如果没通过,那么是onnx和bin一致性的问题还是pth和x3上的一致性没通过,就搞不清楚。

之前就碰到过3d卷积和reducemean不支持,转的时候不报错,结果一致性验证没过。所以一致性没过我现在默认是有什么问题的

这个社区能给的意见也比较有限,还是继续做下去吧