您好,
在模型转换中有一个”threhold”参数,文档中讲是每个层次的校准阈值,用于异常状态下向地平线技术支持反馈信息。-
请问这个值正常的取值范围是多少呢?-
这个文档中提到的“异常状态”指的是什么呢,是转换结果性能,精度差吗?
您好,
在模型转换中有一个”threhold”参数,文档中讲是每个层次的校准阈值,用于异常状态下向地平线技术支持反馈信息。-
请问这个值正常的取值范围是多少呢?-
这个文档中提到的“异常状态”指的是什么呢,是转换结果性能,精度差吗?
感谢您使用地平线芯片算法工具链,最近我们在收集大家的满意度反馈,欢迎您填写问卷,详细情况可见:https://developer.horizon.ai/forumDetail/146177053698464782
你好,这个属于量化参数,用户不需要关注哈,范围是和模型相关的,并没有明确的取值范围。
异常状态指精度差
yolov5模型在量化后相比pt模型对小目标的识别能力有些下降,看转换信息的话,余弦相似度没有太大的变化,但再threshold中有几段算子的这个值达到40多。不知道是否和这个有关,请问这些值又反应了什么信息呢
请问有没有使用HB_onnxruntime验证原始onnx的示例呢
另外我看文档上写的是异常情况下用于反馈信息,您也说异常是指精度问题,那么现在出现一些精度差的问题,请问这些值能反映出什么信息呢,可以反馈出一些排查方向吗
好的,谢谢。original我知道可以使用官方脚本来验证,我是看您发的链接中有说最好用HB_onnxruntime验证原始浮点模型(即您说的刚导出的onnx),所以想问问你们有没有相关示例提供-
好的,已经填过了
threshold是用于模型量化的的参数,精度调优的话,建议参考这篇文章进行微调哈:https://developer.horizon.ai/forumDetail/71036815603174578
original.onnx上面链接中是有的呀,验证刚导出的onnx,可以使用公版的onnxruntime,后期我们也会专门写一篇介绍这个的文章。
threshold是量化的通用概念哈,在量化中,threshold是指用于确定量化之后的量化值的阈值,更具体的信息可以百度一下~
从截图看,这些都是没什么问题的哈,建议按照链接中的建议来进行排查与优化哈
就在精度验证那篇文章里呀,如下图所示:
好,谢谢。我以为会有示例脚本那种,那我自己试试吧