X3 双目深度估计有很多噪点

板卡使用 新手上路
,
1

我模型转换完后，实际测试的时候，深度图有很多的雪花状噪点，和PC上的float32相比，fp32很平滑，而int8虽然总体上和PC上接近，但是有很多噪点，这是怎么回事？

Output Cosine Similarity L1 Distance L2 Distance Chebyshev Distance

pred_disp 0.998568 0.979497 0.003138 50.637054
这是转完的结果，看Cosine Similarity也很高

2

您好，这边是使用了自己训练的模型进行双目的深度估计吗，X3官方还没有做适配，可以参考一下X5的仓库 双目深度算法 | RDK DOC

3

我尝试输出仅带conv和relu6的特征图，发现还是和PC上的fp32的结果不一致，是不是嵌入式端就没办法和fp32上的一模一样的？

4

您好，效果精度不一致是很正常的现象，工具链量化默认是从fp32 → int8，不可避免地会导致模型算法效果发生变化，而在模型转换的过程中，难免会因为浮点到定点的量化过程而引入精度损失。

5

好的，谢谢，请问官方x5的双目EPE是在X5上测的，还是在PC上测得的结果？

6

这些在PC和X5上都有测试，就是浮点模型和量化模型都有测，不过int8量化确实会损失较多精度