模型仿真的html性能数据如何解读

用户您好,请详细描述您所遇到的问题,这会帮助我们快速定位问题~

1.芯片型号:J5

2.天工开物开发包OpenExplorer版本:J5_OE_1.1.40

3.问题定位:模型转换

4.问题具体描述

模型仿真的时候会出来一个html对每层的性能数据,这个性能数据可靠吗?以及如何解读这个数据,比如截图中:

layer util (no DDR)和layer util (with DDR)百分比是怎么计算的,为什么会出现_backbone_patch_embedding_norm_layer_norm_hz_sub层的开始时间从9us开始,_backbone_patch_embedding_norm_layer_norm_input_mean_hz_mean的开始时间是从22us开始,以及_backbone_patch_embedding_norm_layer_norm_hz_sub和_backbone_patch_embedding_norm_layer_norm_hz_mul有依赖关系的两层起始时间都是9us开始

您好,**layer util (no DDR)的计算方式是original cost / computing cost,**其中original cost是原始layer理论时间开销,computing cost(no DDR)是编译后layer的时间开销,不包括DDR相关的时间开销。layer util(with DDR)的计算方式是original cost / (computing cost + load/store cost)。****active period of time是编译后layer活跃时间段。不代表该layer的执行时间,通常都是多个layer交替/并行执行。

你好,请问你使用的docker是哪个版本的呀,我在OE1.1.40中也没复现出你的情况啊,感觉像很久远的html文件呈现形式了,里面的一些预估信息有些凌乱。

当前关于这部分呈现形式如下图所示,一目了然~

地平线工具链在持续迭代,建议您升级至当前最新版OE1.1.52以及docker,获取方式为:https://developer.horizon.ai/forumDetail/118363912788935318。

也可以查看关于这部分内容的在线用户手册:https://developer.horizon.ai/api/v1/fileData/horizon\_j5\_open\_explorer\_cn\_doc/oe\_mapper/source/ptq/ptq\_usage/performance\_evaluation.html

OE包是使用的horizon_j5_open_explorer_v1.1.37-py38_20230106.tar.gz这个,跑出来的图就长上面截图的形式

docker使用的是docker_openexplorer_ubuntu_20_j5_gpu_v1.1.37-py38.tar.gz