rdkx5 yolov8-seg模型反量化出现问题

[用户143]

第三版模型：yolov5_best_quant_modified.bin
做了什么
浮点模型 → hb_mapper INT8 量化 → hb_model_modifier 删除了所有 10 个 Dequantize 节点 → 输出纯 int32 累加器值
删了哪些节点
proto_HzDequantize、cls_8/16/32_HzDequantize、bbox_8/16/32_HzDequantize、mc_8/16/32_HzDequantize
当前处境
方面
详情
帧率
~30 FPS，纯 BPU 推理，快
输出格式
10 路分离 int32，NCHW 布局
值域
cls 约 [-300000, -8000]，bbox/mc 类似
直接 sigmoid
极端负值→sigmoid≈0 被过滤；接近 0 的值→sigmoid≈0.5 成噪声；少数正值→正常检出
CONF_THRES
需调高过滤 0.5 噪声。之前 0.25 满屏框，已提到 0.50
Scale 乘回去
scale 值是对的（与日志匹配），但乘完后值在 [-60, -1.6]，sigmoid 全 0，一个都检不出
根本原因
int32 累加器本身就偏负，乘 scale 后 logit 仍全负，说明量化时 zero_point 或 bias 偏移没处理好
两条路
A. 继续第三版（推荐）——调 CONF_THRES 到 0.55~0.60 过滤 0.5 噪声。缺点是置信度不再有物理含义（0.5 不代表 50% 概率），但检出能用。
B. 重新导出——hb_mapper 量化后不跑 hb_model_modifier，保留 Dequantize 节点。BPU 推理时自动反量化，输出正常 float32 logit。帧率可能降一点（类似第一版 8 FPS 的问题），但不会像第一版那么慢——需要实测。
选哪个？

[地瓜小助手_bot]

根据你的描述，问题核心是：删除 Dequantize 节点后，int32 累加器输出值域严重偏负，导致 sigmoid 后全为 0 或噪声。这是典型的量化参数（zero_point/bias）未正确传递导致的。

结论：选方案 B（保留 Dequantize 节点）

理由：

1. 方案 A 是"治标不治本"：调高 CONF_THRES 只能过滤噪声，但置信度失去物理意义，且无法解决值域偏移的根本问题
2. 方案 B 才是正确路径：Dequantize 节点包含反量化所需的 scale 和 zero_point，删除后这些信息丢失，导致 int32 值无法正确还原为 logit

排查步骤

1. 验证量化参数是否完整

# 检查原始量化模型的输出节点信息
hb_tool inspect yolov5_best_quant.bin --outputs

# 对比删除 Dequantize 后的模型
hb_tool inspect yolov5_best_quant_modified.bin --outputs

2. 正确做法：保留 Dequantize，优化后处理

参考社区已有案例 RDK X5部署yolov8，全int16量化完成后python部署识别不到：

步骤：

1. 不删除 Dequantize 节点，让 BPU 自动完成反量化
2. 检查输出头顺序是否与后处理代码匹配（常见问题）
3. 如果帧率低，检查是否有多余的 CPU 后处理算子

3. 如果必须用 int32 输出（高级用法）

参考 请问如何去除 Yolov5s 模型最后的 Dequant 层？：

# 只删除输出端的 Dequantize，保留中间节点的
hb_model_modifier yolov5_best_quant.bin -a Dequantize -o yolov5_int32.bin

# 手动应用量化参数
# 需要从量化日志中提取每个输出头的 scale 和 zero_point
# 然后在后处理中手动计算：logit = (int32_val - zero_point) * scale

建议行动

1. 优先尝试方案 B：重新导出模型，不删除 Dequantize 节点
2. 测试帧率：如果帧率>15 FPS 且精度正常，直接使用
3. 如果帧率确实低：再考虑方案 A，但需要：
   • 从量化日志中提取每个输出头的 scale 和 zero_point
   • 在后处理中手动应用：logit = (int32_val - zero_point) * scale
   • 然后再做 sigmoid

社区资源

• 反量化节点的融合实现 - 理解反量化原理
• 模型精度验证及调优建议 - 量化调试流程
• RGB模型的量化部署实战-以YOLOv5为例 - 完整量化案例

建议先把你的量化日志（hb_mapper 输出）和模型结构图贴出来，社区可以帮你确认 zero_point 是否正确传递。

[用户143]

model_parameters:
onnx_model: “best.onnx”
march: “bayes-e”
working_dir: “model_output”
output_model_file_prefix: “yolov5_best_quant”

input_parameters:
input_name: “images”
input_shape: “1x3x640x640”
input_type_rt: “nv12”
input_type_train: “rgb”
input_layout_train: “NCHW”
norm_type: “data_scale”
scale_value: 0.003921568627
mean_value: “”

calibration_parameters:
cal_data_dir: “./calibration_images”
cal_data_type: “float32”
calibration_type: “max”
preprocess_on: true

compiler_parameters:
compile_mode: “latency”
debug: false
optimize_level: “O3”哪里有问题，用max还是kl

[地瓜小助手_bot]

问题定位：calibration_type 用错了

结论：YOLOv8-seg 必须用 kl，不能用 max

为什么？

校准方式	适用场景	YOLOv8 问题
max	输出分布均匀的模型	取最大值导致量化范围过宽，zero_point 计算偏移
kl	输出分布不均匀（如 YOLO 的 cls/box）	用 KL 散度找到最优量化区间

你当前症状（cls 输出 [-300000, -8000] 全负）正是 max 校准导致 zero_point 偏移的典型表现。

---

修正方案

1. 修改 YAML 配置

calibration_parameters:
  cal_data_dir: "./calibration_images"
  cal_data_type: "float32"
  calibration_type: "kl"        # ← 改成 kl
  preprocess_on: true
  # 建议加上以下参数
  cal_data_num: 200             # 校准数据数量，至少 100-200 张
  cal_batch_size: 16

2. 校准数据要求

# 校准数据必须满足：
# - 数量：100-200 张（太少会导致统计不准）
# - 分布：与训练集一致（包含各种场景、光照、目标大小）
# - 格式：与输入形状匹配的 NPZ 或图片文件

3. 完整流程

# 1. 重新量化（用 kl 校准）
hb_mapper --config yolov5_quant.yaml

# 2. 检查量化后的输出分布
hb_tool inspect model_output/yolov5_best_quant.bin --outputs

# 3. 不要删除 Dequantize 节点！直接部署测试
# 如果帧率低，再考虑优化后处理

# 4. 验证输出值域（正常应该是 [-5, 5] 左右的 logit）
hrt_model_exec --model yolov5_best_quant.bin --input input.npy --output output.npy

---

预期结果

阶段	cls 输出范围	是否正常
当前（max 校准）	[-300000, -8000]	全负，zero_point 偏移
修正后（kl 校准）	[-5, 5]	正常 logit 分布

---

如果还要用 int32 输出（高级用法）

只有在 确认 kl 校准后输出仍异常 的情况下，才考虑手动删除 Dequantize：

# 只删除输出端的 Dequantize（保留中间的）
hb_model_modifier yolov5_best_quant.bin \
  -a Dequantize \
  -o yolov5_int32.bin

# 然后从量化日志中提取每个输出头的 scale/zero_point
# 在后处理中手动计算：logit = (int32_val - zero_point) * scale

---

社区参考

• 使用 rdk_model_zoo 上的导出 yolo26 效果很差 - 同样是 cls 输出分布异常问题
• PTQ 配置文件详解 - 校准参数详细说明
• 量化 25 分类的 yolov5s 模型 - max vs kl 对比测试

建议：先用 kl 校准重新量化，不要删除 Dequantize 节点，测试帧率和精度。如果还有问题，把量化日志（hb_mapper 输出）贴出来。

[用户143]

量化后怎么检查，要给你日志吗

[地瓜小助手_bot]

量化后检查步骤

需要给我看 3 样东西：量化日志、模型输出检查、板端推理输出

---

检查量化日志（hb_mapper 输出）

重新运行量化，保存完整日志：

hb_mapper --config yolov5_quant.yaml 2>&1 | tee quant_log.txt

重点看这些行（搜索关键词）：

• calibration_type - 确认用的是 kl 不是 max
• zero_point - 每个输出头的零点值
• scale - 量化缩放因子
• output_0/1/2 - 三个输出头的量化参数

---

检查量化后模型结构

# 查看模型输出节点信息
hb_tool inspect model_output/yolov5_best_quant.bin --outputs

正常输出应该包含：

output_0: (1, 80, 80, 84) float32  # cls + box
output_1: (1, 80, 80, 32) float32  # seg mask
...

如果看到 int32 输出 → 说明 Dequantize 节点被删了，不对！

---

板端推理测试（关键！）

在 RDK X5 上运行：

# 准备测试输入（单张图转 npy）
python3 -c "
import numpy as np
img = np.random.rand(1, 3, 640, 640).astype(np.float32)
np.save('test_input.npy', img)
"

# 执行模型
hrt_model_exec \
  --model model_output/yolov5_best_quant.bin \
  --input test_input.npy \
  --output test_output.npy

# 查看输出统计
python3 -c "
import numpy as np
out = np.load('test_output.npy')
print('Shape:', out.shape)
print('Min:', out.min())
print('Max:', out.max())
print('Mean:', out.mean())
print('Std:', out.std())
print('Sample values:', out[0, :5, :5, :5])
"

---

需要发给我的信息

请提供以下内容（直接粘贴）：

1. hb_mapper 日志中关于 calibration_type 和输出头量化参数的部分
   （搜索 "calibration_type" 和 "output_" 关键词）

2. hb_tool inspect 的完整输出

3. hrt_model_exec 测试的 output 统计值：
   - Shape
   - Min/Max/Mean
   - 前几个输出值

---

正常值域参考

输出类型	正常范围	异常表现
cls logit	[-5, 5]	[-300000, -8000]
box logit	[-10, 10]	全负或极大值
seg mask	[0, 1] 或 [-5, 5]	全 0 或极大值

---

快速诊断

如果 Min 值 < -10000 → 100% 是 calibration_type 用错或 Dequantize 被删

先把这 3 步跑完，把日志贴出来，我帮你定位具体问题。

[用户143]

@地瓜小助手_bot

hb_mapper --config yolov5_quant.yaml 2>&1 | tee quant_log.txt

已经量化完了，hb_mapper --config yolov5_quant.yaml 2>&1 | tee quant_log.txt是查询日志吗

[地瓜小助手_bot]

澄清：那个命令是重新量化并保存日志

你既然已经量化完了，不需要重新运行！直接找已有的日志文件。

---

如何找到量化日志

方式 1：查看 hb_mapper 输出文件

# 量化日志通常在工作目录
cd model_output
ls -la *.log *.txt

# 或者查看终端历史
history | grep hb_mapper

方式 2：重新运行但只查看不量化

# 如果日志丢了，可以重新跑一次（很快）
hb_mapper --config yolov5_quant.yaml 2>&1 | tee quant_log.txt

---

现在需要你提供的信息

直接从你的量化日志中搜索并粘贴以下内容：

# 1. 校准类型
grep -i "calibration_type" quant_log.txt

# 2. 输出头量化参数
grep -i "output_" quant_log.txt | head -20

# 3. zero_point 和 scale
grep -i "zero_point\|scale" quant_log.txt | head -20

以及运行这个检查：

# 检查模型输出节点
hb_tool inspect model_output/yolov5_best_quant.bin --outputs

---

快速判断

现象	原因	解决
calibration_type: max	校准方式错误	改成 kl 重新量化
输出节点是 int32	Dequantize 被删了	不要用 hb_model_modifier 删除
zero_point 异常大	校准数据问题	检查校准数据集

---

先把上面 3 个 grep 命令的输出 + hb_tool inspect 的结果贴出来，我帮你判断问题在哪。

[用户143]

8 hb_mapper makertbin --config config.yaml --model-type onnx
13 history | grep hb_mapper

# 检查模型输出节点是在docker内还是外检查

[地瓜小助手_bot]

检查模型输出节点：在 Docker 内检查

为什么？

工具	运行环境	原因
hb_tool	Docker 内	地平线工具链的一部分，依赖特定库
hrt_model_exec	板端 (RDK X5)	需要在实际硬件上推理
hb_mapper	Docker 内	量化转换工具

---

完整检查流程

# 1. 进入 Docker 容器
docker exec -it <容器名> bash

# 2. 在 Docker 内检查模型输出节点
hb_tool inspect model_output/yolov5_best_quant.bin --outputs

# 3. 查看量化日志（在 Docker 内或挂载目录）
grep -i "calibration_type\|zero_point\|scale" quant_log.txt | head -30

---

现在需要你提供的信息

在 Docker 内运行后，把以下输出贴出来：

# 1. hb_tool inspect 完整输出
hb_tool inspect model_output/yolov5_best_quant.bin --outputs

# 2. 量化日志关键部分
grep -i "calibration_type" quant_log.txt
grep -i "output_" quant_log.txt | head -20

---

如果 Docker 已关闭

# 重新启动容器
docker start <容器名>
docker exec -it <容器名> bash

# 或者重新进入官方镜像
docker run -it --rm \
  -v /path/to/your/model:/workspace \
  horizonai/ai_toolchain:latest \
  bash

---

快速判断标准

hb_tool 输出	状态
output_0: float32	正常（Dequantize 保留）
output_0: int32	异常（Dequantize 被删了）

先把 hb_tool inspect 的输出贴出来，我帮你确认模型状态是否正确。

[用户143]

root@0a4333d7cc4f:/workspace/rdk_work/model_output# hb_tool inspect model_output/yolov5_best_quant.bin --outputs
bash: hb_tool: command not found

[地瓜小助手_bot]

问题：hb_tool 命令找不到

原因：工具链环境变量没配置，或者不在正确的 Docker 镜像中。

---

解决方案

方案 1：使用完整路径

# 查找 hb_tool 位置
find / -name "hb_tool" 2>/dev/null

# 常见位置
/opt/horizon/hbdk/tool/hb_tool
/usr/local/horizon/hbdk/tool/hb_tool

方案 2：加载环境变量

# 在 Docker 内执行
source /opt/horizon/hbdk/hbdk_env.sh

# 或者
source /usr/local/horizon/hbdk/hbdk_env.sh

# 然后再运行
hb_tool inspect model_output/yolov5_best_quant.bin --outputs

方案 3：用 Python 脚本替代检查

# 如果没有 hb_tool，用 Python 读取模型信息
python3 -c "
import horizon_nn as nn
model = nn.HBModel('model_output/yolov5_best_quant.bin')
print('Inputs:', model.inputs)
print('Outputs:', model.outputs)
"

方案 4：用 hrt_model_exec 直接测试输出

# 在板端(RDK X5)运行
hrt_model_exec \
  --model model_output/yolov5_best_quant.bin \
  --input test_input.npy \
  --output test_output.npy

# 然后用 Python 查看输出
python3 -c "
import numpy as np
out = np.load('test_output.npy')
print('Shape:', out.shape)
print('Min/Max:', out.min(), out.max())
print('Mean:', out.mean())
print('Dtype:', out.dtype)
"

---

先确认你的环境

# 1. 确认 Docker 镜像
docker images | grep horizon

# 2. 确认容器内工具链版本
pip list | grep horizon

# 3. 确认模型文件存在
ls -la model_output/*.bin

---

最快路径

如果 hb_tool 实在找不到，直接做这两步：

# 1. 把量化日志的关键部分贴出来
grep -i "calibration_type\|zero_point\|scale" quant_log.txt | head -30

# 2. 在板端运行模型，用 Python 查看输出 dtype 和值域
# 如果 dtype 是 int32 → Dequantize 被删了
# 如果 dtype 是 float32 → Dequantize 保留

先把量化日志的关键信息贴出来，我可以帮你判断 calibration_type 是否正确。

[用户143]

hb_mapper_makertbin找到这个

[地瓜小助手_bot]

找到 hb_mapper_makertbin 了！

这是新版工具链的命令，用它来检查模型输出。

---

检查模型输出的正确命令

# 方法 1：用 hb_mapper 查看模型信息
hb_mapper checker \
  --model model_output/yolov5_best_quant.bin \
  --show-info

# 方法 2：用 Python 读取模型
python3 -c "
import horizon_nn as nn
model = nn.HBModel('model_output/yolov5_best_quant.bin')
print('=== 模型输入 ===')
for i, inp in enumerate(model.inputs):
    print(f'input_{i}: {inp.name}, {inp.shape}, {inp.dtype}')
print('=== 模型输出 ===')
for i, out in enumerate(model.outputs):
    print(f'output_{i}: {out.name}, {out.shape}, {out.dtype}')
"

---

现在需要你提供 2 样东西

量化日志关键信息

# 在你的量化工作目录运行
grep -i "calibration_type" config.yaml
grep -i "calibration_type\|zero_point\|scale" quant_log.txt 2>/dev/null | head -30

或者直接打开 config.yaml 看这部分：

calibration_parameters:
  calibration_type: ???  # 这里是 max 还是 kl？

模型输出数据类型

运行上面的 Python 脚本，告诉我输出是：

• float32 → Dequantize 保留（正常）
• int32 → Dequantize 被删了（问题根源）

---

快速判断

现象	原因	解决
calibration_type: max	校准方式错误	改成 kl 重新量化
输出 dtype = int32	Dequantize 被删了	不要用 hb_model_modifier 删除节点
输出值域 [-300000, -8000]	zero_point 偏移	上述两个问题之一

---

下一步行动

请按顺序做：

# 1. 查看 config.yaml 中的 calibration_type
cat config.yaml | grep -A5 "calibration_parameters"

# 2. 运行 Python 脚本检查输出 dtype
python3 -c "
import horizon_nn as nn
model = nn.HBModel('model_output/yolov5_best_quant.bin')
for i, out in enumerate(model.outputs):
    print(f'output_{i}: shape={out.shape}, dtype={out.dtype}')
"

# 3. 如果在 Docker 内找不到 horizon_nn，先在板端测试
# 把模型传到 RDK X5，用 hrt_model_exec 跑一下看输出

把第 1 步和第 2 步的输出贴出来，我帮你确认问题在哪！

[用户143]

2026-07-20 11:37:35,668 file: tool_utils.py func: tool_utils line No: 77 log will be stored in /workspace/rdk_work/hb_mapper_makertbin.log
2026-07-20 11:37:35,668 file: hb_mapper.py func: hb_mapper line No: 132 Start hb_mapper…
2026-07-20 11:37:35,668 file: hb_mapper.py func: hb_mapper line No: 133 hbdk version 3.49.15
2026-07-20 11:37:35,668 file: hb_mapper.py func: hb_mapper line No: 134 horizon_nn version 1.1.0
2026-07-20 11:37:35,669 file: hb_mapper.py func: hb_mapper line No: 135 hb_mapper version 1.24.3
2026-07-20 11:37:35,669 file: hb_mapper_makertbin.py func: hb_mapper_makertbin line No: 530 Start Model Convert…
2026-07-20 11:37:35,672 file: mapper_conf_parser.py func: mapper_conf_parser line No: 105 validating model_parameters…
2026-07-20 11:37:35,672 file: mapper_conf_parser.py func: mapper_conf_parser line No: 1347 Using abs path /workspace/rdk_work/best.onnx
2026-07-20 11:37:35,672 file: mapper_conf_parser.py func: mapper_conf_parser line No: 260 Using onnx model file: /workspace/rdk_work/best.onnx
2026-07-20 11:37:35,989 file: onnx_parser.py func: onnx_parser line No: 39 Model input names: [‘images’]
2026-07-20 11:37:35,989 file: mapper_conf_parser.py func: mapper_conf_parser line No: 264 Model has 1 inputs according to model file
2026-07-20 11:37:35,990 file: mapper_conf_parser.py func: mapper_conf_parser line No: 1347 Using abs path /workspace/rdk_work/model_output
2026-07-20 11:37:35,990 file: mapper_conf_parser.py func: mapper_conf_parser line No: 438 node_dict: {self.node_dict}
2026-07-20 11:37:35,990 file: mapper_conf_parser.py func: mapper_conf_parser line No: 119 validating model_parameters finished
2026-07-20 11:37:35,990 file: mapper_conf_parser.py func: mapper_conf_parser line No: 123 validating input_parameters…
2026-07-20 11:37:35,990 file: mapper_conf_parser.py func: mapper_conf_parser line No: 639 nv12 input type rt received.
2026-07-20 11:37:35,990 file: mapper_conf_parser.py func: mapper_conf_parser line No: 135 validating input_parameters finished
2026-07-20 11:37:35,990 file: mapper_conf_parser.py func: mapper_conf_parser line No: 139 validating calibration_parameters…
2026-07-20 11:37:35,990 file: mapper_conf_parser.py func: mapper_conf_parser line No: 1347 Using abs path /workspace/rdk_work/calibration_images
2026-07-20 11:37:35,990 file: mapper_conf_parser.py func: mapper_conf_parser line No: 1007 The calibration dir name suffix is not the same as the value float32 of the parameter cal_data_type, the parameter setting will prevail
2026-07-20 11:37:35,990 file: mapper_conf_parser.py func: mapper_conf_parser line No: 155 validating calibration_parameters finished
2026-07-20 11:37:35,990 file: mapper_conf_parser.py func: mapper_conf_parser line No: 159 validating custom_op…
2026-07-20 11:37:35,990 file: mapper_conf_parser.py func: mapper_conf_parser line No: 1076 custom_op does not exist, skipped
2026-07-20 11:37:35,991 file: mapper_conf_parser.py func: mapper_conf_parser line No: 165 validating custom_op finished
2026-07-20 11:37:35,991 file: mapper_conf_parser.py func: mapper_conf_parser line No: 168 validating compiler_parameters…
2026-07-20 11:37:35,991 file: mapper_conf_parser.py func: mapper_conf_parser line No: 1157 Input node images’s input_source not set, it will be set to pyramid by default
2026-07-20 11:37:35,991 file: mapper_conf_parser.py func: mapper_conf_parser line No: 183 validating compiler_parameters finished
2026-07-20 11:37:35,991 file: mapper_conf_parser.py func: mapper_conf_parser line No: 187 validating deprecated parameters…
2026-07-20 11:37:35,991 file: mapper_conf_parser.py func: mapper_conf_parser line No: 1272 User input ‘preprocess_on’ will be deprecated. If you want to simplify the calibration process, please use ‘skip’ in ‘calibration_type’
2026-07-20 11:37:35,991 file: mapper_conf_parser.py func: mapper_conf_parser line No: 193 validating deprecated parameters finished
2026-07-20 11:37:35,991 file: hb_mapper_makertbin.py func: hb_mapper_makertbin line No: 54 Dump config:
2026-07-20 11:37:35,991 file: hb_mapper_makertbin.py func: hb_mapper_makertbin line No: 55 calibration_parameters:
cal_data_dir: ./calibration_images
cal_data_type: float32
calibration_type: kl
preprocess_on: true
compiler_parameters:
compile_mode: latency
debug: false
optimize_level: O3
input_parameters:
input_layout_train: NCHW
input_name: images
input_shape: 1x3x640x640
input_type_rt: nv12
input_type_train: rgb
mean_value: ‘’
norm_type: data_scale
scale_value: ‘0.003921568627’
model_parameters:
layer_out_dump: false
march: bayes-e
onnx_model: best.onnx
output_model_file_prefix: yolov5_best_quant
working_dir: model_output

2026-07-20 11:37:35,993 file: hb_mapper_makertbin.py func: hb_mapper_makertbin line No: 60 input ‘images’ : original model shape: [1, 3, 640, 640]
2026-07-20 11:37:35,993 file: loader.py func: loader line No: 204 *******************************************
2026-07-20 11:37:35,994 file: loader.py func: loader line No: 205 First calibration picture name: 1_mp4-0002_jpg.rf.D6Frpk0IfpJPgKdQsAn1.jpg
2026-07-20 11:37:35,994 file: loader.py func: loader line No: 207 First calibration picture md5:
2026-07-20 11:37:36,000 file: loader.py func: loader line No: 211 *******************************************
2026-07-20 11:38:00,579 file: tool_utils.py func: tool_utils line No: 368 num of calibration data: 100
2026-07-20 11:38:00,580 file: tool_utils.py func: tool_utils line No: 369 calibration data shape: (1, 3, 640, 640)
2026-07-20 11:38:00,658 file: hb_mapper_makertbin.py func: hb_mapper_makertbin line No: 519 call build params:
{‘march’: ‘bayes-e’, ‘save_model’: True, ‘name_prefix’: ‘yolov5_best_quant’, ‘input_dict’: {‘images’: {‘input_shape’: [1, 3, 640, 640], ‘expected_input_type’: ‘YUV444_128’, ‘original_input_type’: ‘RGB’, ‘original_input_layout’: ‘NCHW’, ‘scales’: array([0.00392157], dtype=float32)}}, ‘cali_dict’: {‘calibration_type’: ‘kl’, ‘calibration_data’: {‘images’: [array([[[[-18., -17., -15., …, -56., -57., -57.],
[-17., -18., -17., …, -56., -55., -55.],
[-14., -17., -15., …, -52., -52., -52.],
…,
[-43., -46., -42., …, -59., -59., -59.],
[-44., -41., -42., …, -59., -59., -59.],
[-44., -39., -40., …, -60., -60., -60.]],

    [[  3.,   3.,   2., ...,   3.,   4.,   4.],
     [  3.,   3.,   2., ...,   3.,   4.,   4.],
     [  2.,   2.,   2., ...,   3.,   3.,   3.],
     ...,
     [-27., -27., -25., ..., -31., -31., -31.],
     [-25., -25., -25., ..., -30., -30., -30.],
     [-25., -25., -25., ..., -30., -30., -30.]],

    [[ -3.,  -3.,  -3., ...,  -8.,  -9.,  -9.],
     [ -3.,  -3.,  -3., ...,  -8.,  -9.,  -9.],
     [ -3.,  -3.,  -3., ...,  -8.,  -8.,  -8.],
     ...,
     [ 62.,  62.,  64., ...,  74.,  74.,  74.],
     [ 62.,  62.,  64., ...,  74.,  74.,  74.],
     [ 62.,  62.,  64., ...,  74.,  74.,  74.]]]], dtype=float32), array([[[[  8.,   8.,   8., ..., -57., -58., -58.],
     [  7.,   7.,   7., ..., -55., -56., -56.],
     [  8.,   8.,   8., ..., -52., -53., -54.],
     ...,
     [ 25.,  25.,  25., ...,  12.,  12.,  10.],
     [ 25.,  25.,  24., ...,  12.,  12.,  10.],
     [ 25.,  25.,  24., ...,  12.,  11.,  11.]],

    [[  2.,   2.,   2., ...,  -6.,  -5.,  -5.],
     [  2.,   2.,   2., ...,  -6.,  -5.,  -5.],
     [  0.,   0.,   0., ...,  -6.,  -6.,  -6.],
     ...,
     [ -1.,  -1.,  -1., ...,  -1.,  -1.,  -1.],
     [ -1.,  -1.,  -1., ...,  -1.,  -1.,  -1.],
     [ -1.,  -1.,  -1., ...,  -1.,  -1.,  -1.]],

    [[  4.,   4.,   4., ...,   7.,   6.,   6.],
     [  4.,   4.,   4., ...,   7.,   6.,   6.],
     [  4.,   4.,   4., ...,   7.,   7.,   7.],
     ...,
     [  2.,   2.,   2., ...,   2.,   2.,   2.],
     [  2.,   2.,   2., ...,   2.,   2.,   2.],
     [  2.,   2.,   2., ...,   2.,   2.,   2.]]]], dtype=float32), array([[[[   5.,    5.,    5., ..., -100.,  -99.,  -99.],
     [   5.,    5.,    5., ...,  -99.,  -99.,  -99.],
     [   5.,    6.,    6., ..., -100.,  -99.,  -99.],
     ...,
     [  23.,   23.,   23., ...,   27.,   27.,   27.],
     [  23.,   22.,   22., ...,   27.,   27.,   27.],
     [  23.,   23.,   23., ...,   27.,   27.,   27.]],

    [[  -2.,   -2.,   -2., ...,   -2.,   -2.,   -2.],
     [  -2.,   -2.,   -2., ...,   -2.,   -2.,   -2.],
     [  -2.,   -2.,   -2., ...,   -2.,   -2.,   -2.],
     ...,
     [  -2.,   -2.,   -2., ...,   -1.,   -1.,   -1.],
     [  -2.,   -2.,   -2., ...,   -1.,   -1.,   -1.],
     [  -2.,   -2.,   -2., ...,   -1.,   -1.,   -1.]],

    [[   5.,    5.,    5., ...,    0.,    0.,    0.],
     [   5.,    5.,    5., ...,    0.,    0.,    0.],
     [   5.,    5.,    5., ...,    0.,    0.,    0.],
     ...,
     [   2.,    2.,    2., ...,    2.,    2.,    2.],
     [   3.,    3.,    2., ...,    2.,    2.,    2.],
     [   3.,    3.,    2., ...,    2.,    2.,    2.]]]], dtype=float32), array([[[[-16., -16., -16., ..., -55., -55., -55.],
     [-14., -14., -14., ..., -53., -53., -53.],
     [-14., -14., -14., ..., -50., -50., -50.],
     ...,
     [-46., -45., -45., ..., -62., -62., -62.],
     [-45., -41., -46., ..., -62., -62., -62.],
     [-44., -41., -44., ..., -62., -61., -61.]],

    [[ -1.,  -1.,  -1., ...,   2.,   2.,   2.],
     [ -1.,  -1.,  -1., ...,   2.,   2.,   2.],
     [ -1.,  -1.,  -1., ...,   2.,   2.,   2.],
     ...,
     [-29., -29., -28., ..., -29., -29., -29.],
     [-29., -29., -28., ..., -29., -29., -29.],
     [-29., -29., -28., ..., -29., -29., -29.]],

    [[ -1.,  -1.,  -1., ...,  -6.,  -6.,  -6.],
     [ -1.,  -1.,  -1., ...,  -6.,  -6.,  -6.],
     [ -1.,  -1.,  -1., ...,  -6.,  -6.,  -6.],
     ...,
     [ 63.,  63.,  65., ...,  74.,  74.,  74.],
     [ 63.,  63.,  64., ...,  74.,  74.,  74.],
     [ 63.,  63.,  64., ...,  74.,  74.,  74.]]]], dtype=float32), array([[[[-52., -51., -52., ...,   1.,   0.,   0.],
     [-50., -50., -50., ...,   1.,   0.,   0.],
     [-46., -48., -49., ...,   1.,   1.,   1.],
     ...,
     [ 30.,  30.,  30., ...,  27.,  28.,  28.],
     [ 30.,  30.,  30., ...,  26.,  27.,  28.],
     [ 31.,  30.,  30., ...,  26.,  27.,  28.]],

    [[ -1.,  -1.,   1., ...,   3.,   3.,   3.],
     [ -1.,  -1.,   1., ...,   3.,   3.,   3.],
     [ -2.,  -2.,  -1., ...,  -1.,  -1.,  -1.],
     ...,
     [  0.,   0.,   0., ...,  -1.,  -1.,  -1.],
     [  0.,   0.,   0., ...,  -1.,  -1.,  -1.],
     [  0.,   0.,   0., ...,  -1.,  -1.,  -1.]],

    [[  7.,   7.,   8., ...,   3.,   3.,   3.],
     [  7.,   7.,   8., ...,   3.,   3.,   3.],
     [  7.,   7.,   7., ...,   2.,   2.,   2.],
     ...,
     [  0.,   0.,   0., ...,   2.,   2.,   2.],
     [  0.,   0.,   0., ...,   2.,   2.,   2.],
     [  0.,   0.,   0., ...,   2.,   2.,   2.]]]], dtype=float32), array([[[[  2.,   2.,   2., ..., -57., -60., -64.],
     [  3.,   3.,   3., ..., -54., -58., -63.],
     [  5.,   5.,   5., ..., -50., -54., -58.],
     ...,
     [ 26.,  26.,  26., ...,  27.,  27.,  27.],
     [ 26.,  26.,  26., ...,  27.,  27.,  27.],
     [ 26.,  26.,  26., ...,  28.,  27.,  27.]],

    [[  2.,   2.,   2., ...,   0.,   2.,   2.],
     [  2.,   2.,   2., ...,   0.,   2.,   2.],
     [  1.,   1.,   1., ...,   0.,   1.,   1.],
     ...,
     [  1.,   1.,   1., ...,  -1.,  -1.,  -1.],
     [  1.,   1.,   1., ...,  -1.,  -1.,  -1.],
     [  1.,   1.,   1., ...,  -1.,  -1.,  -1.]],

    [[  4.,   4.,   4., ...,   4.,   2.,   2.],
     [  4.,   4.,   4., ...,   4.,   2.,   2.],
     [  4.,   4.,   4., ...,   3.,   2.,   2.],
     ...,
     [  0.,   0.,   0., ...,   2.,   2.,   2.],
     [  0.,   0.,   0., ...,   2.,   2.,   2.],
     [  0.,   0.,   0., ...,   2.,   2.,   2.]]]], dtype=float32), array([[[[ -32.,  -27.,  -29., ...,  -90.,  -97., -103.],
     [ -16.,  -14.,  -14., ...,  -77.,  -73.,  -65.],
     [   2.,    1.,    3., ...,  -73.,  -74.,  -73.],
     ...,
     [  27.,   27.,   29., ...,   28.,   26.,   25.],
     [  27.,   27.,   28., ...,   28.,   26.,   25.],
     [  26.,   26.,   28., ...,   28.,   26.,   25.]],

    [[   2.,    2.,    2., ...,   -1.,   -1.,   -1.],
     [   2.,    2.,    2., ...,   -1.,   -1.,   -1.],
     [   2.,    2.,    2., ...,    0.,    0.,    0.],
     ...,
     [   1.,    1.,    1., ...,    0.,    0.,    0.],
     [   1.,    1.,    1., ...,    0.,    0.,    0.],
     [   1.,    1.,    1., ...,    0.,    0.,    0.]],

    [[   2.,    2.,    2., ...,   -1.,   -1.,   -1.],
     [   2.,    2.,    2., ...,   -1.,   -1.,   -1.],
     [   2.,    2.,    2., ...,    0.,    0.,    0.],
     ...,
     [   0.,    0.,    0., ...,    0.,    0.,    0.],
     [   0.,    0.,    0., ...,    0.,    0.,    0.],
     [   0.,    0.,    0., ...,    0.,    0.,    0.]]]], dtype=float32), array([[[[  3.,  -1.,  -1., ..., -55., -57., -59.],
     [  5.,   5.,   7., ..., -54., -59., -61.],
     [  6.,   6.,   6., ..., -51., -52., -49.],
     ...,
     [ 26.,  26.,  26., ...,  26.,  25.,  24.],
     [ 26.,  26.,  26., ...,  28.,  27.,  24.],
     [ 26.,  26.,  26., ...,  30.,  28.,  24.]],

    [[  2.,   2.,   2., ...,  -3.,   0.,   0.],
     [  2.,   2.,   2., ...,  -3.,   0.,   0.],
     [ -2.,  -2.,  -2., ...,  -3.,  -1.,  -1.],
     ...,
     [  1.,   1.,   1., ...,   0.,   0.,   0.],
     [  1.,   1.,   1., ...,   0.,   0.,   0.],
     [  1.,   1.,   1., ...,   0.,   0.,   0.]],

    [[  5.,   5.,   5., ...,   4.,   3.,   3.],
     [  5.,   5.,   5., ...,   4.,   3.,   3.],
     [  5.,   5.,   5., ...,   4.,   3.,   3.],
     ...,
     [  0.,   0.,   0., ...,   0.,   0.,   0.],
     [  0.,   0.,   0., ...,   0.,   0.,   0.],
     [  0.,   0.,   0., ...,   0.,   0.,   0.]]]], dtype=float32), array([[[[-16., -15., -14., ..., -27., -27., -27.],
     [-14., -13., -12., ..., -27., -27., -27.],
     [-14., -13., -11., ..., -27., -27., -27.],
     ...,
     [ 30.,  30.,  28., ...,  26.,  25.,  24.],
     [ 29.,  30.,  30., ...,  26.,  26.,  24.],
     [ 27.,  30.,  31., ...,  26.,  26.,  25.]],

    [[ -2.,  -2.,  -2., ...,  -4.,  -4.,  -4.],
     [ -2.,  -2.,  -2., ...,  -4.,  -4.,  -4.],
     [ -1.,  -1.,  -2., ...,  -4.,  -4.,  -4.],
     ...,
     [  0.,   0.,   0., ...,  -1.,  -1.,  -1.],
     [  0.,   0.,   0., ...,  -1.,  -1.,  -1.],
     [  0.,   0.,   0., ...,  -1.,  -1.,  -1.]],

    [[  4.,   4.,   4., ...,   5.,   5.,   5.],
     [  4.,   4.,   4., ...,   5.,   5.,   5.],
     [  4.,   4.,   4., ...,   5.,   5.,   5.],
     ...,
     [  0.,   0.,   0., ...,   2.,   2.,   2.],
     [  0.,   0.,   0., ...,   2.,   2.,   2.],
     [  0.,   0.,   0., ...,   2.,   2.,   2.]]]], dtype=float32), array([[[[  5.,   5.,   4., ..., -74., -73., -73.],
     [  6.,   6.,   5., ..., -71., -71., -70.],
     [  6.,   6.,   6., ..., -68., -69., -69.],
     ...,
     [ 29.,  29.,  29., ...,  25.,  25.,  25.],
     [ 29.,  29.,  29., ...,  24.,  23.,  23.],
     [ 29.,  29.,  29., ...,  24.,  23.,  23.]],

    [[  0.,   0.,   0., ...,   1.,   1.,   1.],
     [  0.,   0.,   0., ...,   1.,   1.,   1.],
     [  0.,   0.,   0., ...,   1.,   1.,   1.],
     ...,
     [ -2.,  -2.,  -1., ...,   0.,   0.,   0.],
     [ -2.,  -2.,  -1., ...,   0.,   0.,   0.],
     [ -2.,  -2.,  -1., ...,   0.,   0.,   0.]],

    [[  2.,   2.,   2., ...,   2.,   2.,   2.],
     [  2.,   2.,   2., ...,   2.,   2.,   2.],
     [  2.,   2.,   2., ...,   2.,   2.,   2.],
     ...,
     [  3.,   3.,   2., ...,   0.,   0.,   0.],
     [  3.,   3.,   2., ...,   0.,   0.,   0.],
     [  3.,   3.,   2., ...,   0.,   0.,   0.]]]], dtype=float32), array([[[[-56., -56., -56., ...,  -5.,  -5.,  -5.],
     [-57., -57., -57., ...,  -5.,  -5.,  -5.],
     [-57., -57., -57., ...,  -5.,  -5.,  -5.],
     ...,
     [ 27.,  27.,  27., ...,  13.,  11.,  10.],
     [ 27.,  27.,  27., ...,  14.,  12.,  10.],
     [ 27.,  27.,  27., ...,  14.,  12.,  10.]],

    [[ -3.,  -3.,  -3., ...,  -3.,  -3.,  -3.],
     [ -3.,  -3.,  -3., ...,  -3.,  -3.,  -3.],
     [ -1.,  -1.,  -1., ...,  -3.,  -3.,  -3.],
     ...,
     [ -1.,  -1.,  -1., ...,   2.,   2.,   2.],
     [ -1.,  -1.,  -1., ...,   2.,   2.,   2.],
     [ -1.,  -1.,  -1., ...,   2.,   2.,   2.]],

    [[  6.,   6.,   6., ...,   9.,   9.,   9.],
     [  6.,   6.,   6., ...,   9.,   9.,   9.],
     [  5.,   5.,   5., ...,   9.,   9.,   9.],
     ...,
     [  2.,   2.,   2., ...,   0.,   0.,   0.],
     [  2.,   2.,   2., ...,   0.,   0.,   0.],
     [  2.,   2.,   2., ...,   0.,   0.,   0.]]]], dtype=float32), array([[[[ -35.,  -37.,  -37., ..., -118., -117., -116.],
     [ -34.,  -33.,  -32., ..., -118., -117., -116.],
     [ -33.,  -33.,  -32., ..., -118., -117., -116.],
     ...,
     [  24.,   27.,   26., ...,   30.,   31.,   31.],
     [  23.,   27.,   26., ...,   29.,   30.,   30.],
     [  23.,   27.,   25., ...,   29.,   30.,   29.]],

    [[   1.,    1.,   -1., ...,   -1.,   -1.,   -1.],
     [   1.,    1.,   -1., ...,   -1.,   -1.,   -1.],
     [  -1.,   -1.,    0., ...,   -1.,   -1.,   -1.],
     ...,
     [   1.,    1.,    1., ...,   -1.,   -1.,   -1.],
     [   1.,    1.,    1., ...,   -1.,   -1.,   -1.],
     [   1.,    1.,    1., ...,   -1.,   -1.,   -1.]],

    [[   0.,    0.,    0., ...,   -1.,   -1.,   -1.],
     [   0.,    0.,    0., ...,   -1.,   -1.,   -1.],
     [   0.,    0.,    0., ...,   -1.,   -1.,   -1.],
     ...,
     [  -1.,   -1.,   -1., ...,   -1.,   -1.,   -1.],
     [  -1.,   -1.,   -1., ...,   -1.,   -1.,   -1.],
     [  -1.,   -1.,   -1., ...,   -1.,   -1.,   -1.]]]], dtype=float32), array([[[[-39., -35., -32., ..., -25., -25., -25.],
     [-30., -31., -32., ..., -23., -23., -23.],
     [-37., -34., -33., ..., -22., -22., -22.],
     ...,
     [ 23.,  23.,  23., ...,  22.,  22.,  22.],
     [ 26.,  26.,  25., ...,  24.,  24.,  24.],
     [ 27.,  26.,  25., ...,  25.,  25.,  25.]],

    [[  0.,   0.,   0., ...,  -3.,  -3.,  -3.],
     [  0.,   0.,   0., ...,  -3.,  -3.,  -3.],
     [  0.,   0.,   0., ...,  -2.,  -2.,  -2.],
     ...,
     [  1.,   1.,   1., ...,   0.,   0.,   0.],
     [  1.,   1.,   1., ...,   0.,   0.,   0.],
     [  1.,   1.,   1., ...,   0.,   0.,   0.]],

    [[  0.,   0.,   0., ...,   0.,   0.,   0.],
     [  0.,   0.,   0., ...,   0.,   0.,   0.],
     [  0.,   0.,   0., ...,   0.,   0.,   0.],
     ...,
     [ -1.,  -1.,  -1., ...,   0.,   0.,   0.],
     [ -1.,  -1.,  -1., ...,   0.,   0.,   0.],
     [ -1.,  -1.,  -1., ...,   0.,   0.,   0.]]]], dtype=float32), array([[[[-19., -18., -18., ..., -14., -14., -14.],
     [-18., -18., -18., ..., -13., -13., -13.],
     [-17., -17., -17., ..., -13., -13., -13.],
     ...,
     [ 28.,  29.,  31., ...,  26.,  26.,  26.],
     [ 28.,  29.,  31., ...,  26.,  26.,  26.],
     [ 28.,  30.,  31., ...,  26.,  26.,  26.]],

    [[  3.,   3.,   1., ...,  -3.,  -3.,  -3.],
     [  3.,   3.,   1., ...,  -3.,  -3.,  -3.],
     [  2.,   2.,   0., ...,  -3.,  -3.,  -3.],
     ...,
     [  1.,   1.,   1., ...,   0.,   0.,   0.],
     [  1.,   1.,   1., ...,   0.,   0.,   0.],
     [  1.,   1.,   1., ...,   0.,   0.,   0.]],

    [[  1.,   1.,   0., ...,   7.,   7.,   7.],
     [  1.,   1.,   0., ...,   7.,   7.,   7.],
     [  4.,   4.,   4., ...,   7.,   7.,   7.],
     ...,
     [  0.,   0.,   0., ...,   0.,   0.,   0.],
     [  0.,   0.,   0., ...,   0.,   0.,   0.],
     [  0.,   0.,   0., ...,   0.,   0.,   0.]]]], dtype=float32), array([[[[-108., -109., -109., ..., -100., -100., -100.],
     [-108., -108., -109., ..., -101., -100., -100.],
     [-107., -105., -108., ..., -101., -100., -100.],
     ...,
     [-103., -104., -104., ...,  -80.,  -77.,  -77.],
     [-104., -104., -104., ...,  -79.,  -78.,  -78.],
     [-104., -104., -104., ...,  -78.,  -78.,  -79.]],

    [[  -3.,   -3.,   -3., ...,   24.,   22.,   22.],
     [  -3.,   -3.,   -3., ...,   24.,   22.,   22.],
     [  -3.,   -3.,   -3., ...,   24.,   22.,   22.],
     ...,
     [  20.,   20.,   20., ...,   41.,   41.,   41.],
     [  19.,   19.,   20., ...,   41.,   41.,   41.],
     [  19.,   19.,   20., ...,   41.,   41.,   41.]],

    [[  -3.,   -3.,   -3., ...,  -16.,  -16.,  -16.],
     [  -3.,   -3.,   -3., ...,  -16.,  -16.,  -16.],
     [  -3.,   -3.,   -3., ...,  -16.,  -16.,  -16.],
     ...,
     [ -18.,  -18.,  -18., ...,  -33.,  -31.,  -31.],
     [ -17.,  -17.,  -18., ...,  -32.,  -31.,  -31.],
     [ -17.,  -17.,  -18., ...,  -32.,  -31.,  -31.]]]], dtype=float32), array([[[[ -50.,  -50.,  -50., ...,  -16.,  -16.,  -16.],
     [ -50.,  -50.,  -50., ...,  -16.,  -16.,  -16.],
     [ -50.,  -50.,  -50., ...,  -16.,  -16.,  -16.],
     ...,
     [ -23.,  -23.,  -23., ..., -109., -109., -109.],
     [ -23.,  -23.,  -23., ..., -108., -108., -108.],
     [ -23.,  -23.,  -23., ..., -108., -108., -108.]],

    [[   4.,    4.,    4., ...,    2.,    2.,    2.],
     [   4.,    4.,    4., ...,    2.,    2.,    2.],
     [   4.,    4.,    4., ...,    2.,    2.,    2.],
     ...,
     [  -2.,   -2.,   -2., ...,   14.,   14.,   14.],
     [  -2.,   -2.,   -2., ...,   15.,   15.,   15.],
     [  -2.,   -2.,   -2., ...,   15.,   15.,   15.]],

    [[  -3.,   -3.,   -3., ...,    0.,    0.,    0.],
     [  -3.,   -3.,   -3., ...,    0.,    0.,    0.],
     [  -3.,   -3.,   -3., ...,    0.,    0.,    0.],
     ...,
     [   2.,    2.,    2., ...,   -8.,   -8.,   -8.],
     [   2.,    2.,    2., ...,   -8.,   -8.,   -8.],
     [   2.,    2.,    2., ...,   -8.,   -8.,   -8.]]]], dtype=float32), array([[[[  6.,   6.,   6., ..., -19., -19., -20.],
     [  6.,   6.,   6., ..., -20., -19., -19.],
     [  6.,   6.,   5., ..., -19., -19., -18.],
     ...,
     [ -2.,  -2.,  -1., ..., -16., -16., -16.],
     [ -2.,  -2.,  -1., ..., -16., -16., -16.],
     [ -2.,  -2.,  -1., ..., -16., -16., -16.]],

    [[ -3.,  -3.,  -3., ...,  -2.,  -2.,  -2.],
     [ -3.,  -3.,  -3., ...,  -2.,  -2.,  -2.],
     [ -3.,  -3.,  -3., ...,  -2.,  -2.,  -2.],
     ...,
     [ -2.,  -2.,  -2., ...,  -3.,  -3.,  -3.],
     [ -2.,  -2.,  -2., ...,  -3.,  -3.,  -3.],
     [ -2.,  -2.,  -2., ...,  -3.,  -3.,  -3.]],

    [[  0.,   0.,   0., ...,  -1.,  -1.,  -1.],
     [  0.,   0.,   0., ...,  -1.,  -1.,  -1.],
     [  0.,   0.,   0., ...,  -1.,  -1.,  -1.],
     ...,
     [  2.,   2.,   2., ...,   0.,   0.,   0.],
     [  2.,   2.,   2., ...,   0.,   0.,   0.],
     [  2.,   2.,   2., ...,   0.,   0.,   0.]]]], dtype=float32), array([[[[-128., -128., -128., ..., -128., -128., -128.],
     [-128., -128., -128., ..., -128., -128., -128.],
     [-128., -128., -128., ..., -128., -128., -128.],
     ...,
     [-128., -128., -128., ..., -128., -128., -128.],
     [-128., -128., -128., ..., -128., -128., -128.],
     [-128., -128., -128., ..., -128., -128., -128.]],

    [[   0.,    0.,    0., ...,    0.,    0.,    0.],
     [   0.,    0.,    0., ...,    0.,    0.,    0.],
     [   0.,    0.,    0., ...,    0.,    0.,    0.],
     ...,
     [   0.,    0.,    0., ...,    0.,    0.,    0.],
     [   0.,    0.,    0., ...,    0.,    0.,    0.],
     [   0.,    0.,    0., ...,    0.,    0.,    0.]],

    [[   0.,    0.,    0., ...,    0.,    0.,    0.],
     [   0.,    0.,    0., ...,    0.,    0.,    0.],
     [   0.,    0.,    0., ...,    0.,    0.,    0.],
     ...,
     [   0.,    0.,    0., ...,    0.,    0.,    0.],
     [   0.,    0.,    0., ...,    0.,    0.,    0.],
     [   0.,    0.,    0., ...,    0.,    0.,    0.]]]], dtype=float32), array([[[[ 60.,  60.,  60., ..., -57., -57., -57.],
     [ 60.,  60.,  60., ..., -57., -57., -57.],
     [ 60.,  60.,  60., ..., -57., -57., -57.],
     ...,
     [  5.,   5.,   5., ..., -17., -17., -17.],
     [  6.,   6.,   6., ..., -17., -17., -17.],
     [  6.,   6.,   6., ..., -17., -17., -17.]],

    [[ -3.,  -3.,  -3., ...,   1.,   1.,   1.],
     [ -3.,  -3.,  -3., ...,   1.,   1.,   1.],
     [ -3.,  -3.,  -3., ...,   1.,   1.,   1.],
     ...,
     [ -4.,  -4.,  -4., ...,  -4.,  -4.,  -4.],
     [ -4.,  -4.,  -4., ...,  -4.,  -4.,  -4.],
     [ -4.,  -4.,  -4., ...,  -4.,  -4.,  -4.]],

    [[  0.,   0.,   0., ...,  -1.,  -1.,  -1.],
     [  0.,   0.,   0., ...,  -1.,  -1.,  -1.],
     [  0.,   0.,   0., ...,  -1.,  -1.,  -1.],
     ...,
     [  2.,   2.,   2., ...,   0.,   0.,   0.],
     [  2.,   2.,   2., ...,   0.,   0.,   0.],
     [  2.,   2.,   2., ...,   0.,   0.,   0.]]]], dtype=float32), array([[[[ 62.,  62.,  62., ..., -44., -44., -44.],
     [ 62.,  62.,  62., ..., -48., -48., -48.],
     [ 62.,  62.,  62., ..., -54., -54., -54.],
     ...,
     [ 27.,  27.,  27., ..., -38., -38., -38.],
     [ 27.,  27.,  27., ..., -38., -38., -38.],
     [ 28.,  28.,  27., ..., -38., -38., -38.]],

    [[ -2.,  -2.,  -2., ...,   2.,   2.,   2.],
     [ -2.,  -2.,  -2., ...,   2.,   2.,   2.],
     [ -2.,  -2.,  -2., ...,   2.,   2.,   2.],
     ...,
     [ -3.,  -3.,  -3., ...,  -4.,  -4.,  -4.],
     [ -3.,  -3.,  -3., ...,  -4.,  -4.,  -4.],
     [ -3.,  -3.,  -3., ...,  -4.,  -4.,  -4.]],

    [[  3.,   3.,   3., ...,  -1.,  -1.,  -1.],
     [  3.,   3.,   3., ...,  -1.,  -1.,  -1.],
     [  3.,   3.,   3., ...,  -1.,  -1.,  -1.],
     ...,
     [  5.,   5.,   5., ...,   1.,   1.,   1.],
     [  5.,   5.,   5., ...,   1.,   1.,   1.],
     [  5.,   5.,   5., ...,   1.,   1.,   1.]]]], dtype=float32), array([[[[  51.,   51.,   51., ...,  -67.,  -67.,  -67.],
     [  51.,   51.,   51., ...,  -67.,  -67.,  -67.],
     [  51.,   51.,   51., ...,  -67.,  -67.,  -67.],
     ...,
     [  11.,   11.,   11., ..., -119., -119., -119.],
     [  11.,   11.,   11., ..., -119., -118., -119.],
     [  11.,   11.,   11., ..., -118., -118., -118.]],

    [[  -3.,   -3.,   -3., ...,    2.,    2.,    2.],
     [  -3.,   -3.,   -3., ...,    2.,    2.,    2.],
     [  -3.,   -3.,   -3., ...,    2.,    2.,    2.],
     ...,
     [  -3.,   -3.,   -3., ...,    1.,    1.,    1.],
     [  -3.,   -3.,   -3., ...,    1.,    1.,    1.],
     [  -3.,   -3.,   -3., ...,    1.,    1.,    1.]],

    [[   4.,    4.,    4., ...,    1.,    1.,    1.],
     [   4.,    4.,    4., ...,    1.,    1.,    1.],
     [   4.,    4.,    4., ...,    1.,    1.,    1.],
     ...,
     [   5.,    5.,    5., ...,    0.,    0.,    0.],
     [   5.,    5.,    5., ...,    0.,    0.,    0.],
     [   5.,    5.,    5., ...,    0.,    0.,    0.]]]], dtype=float32), array([[[[ 47.,  47.,  47., ..., -63., -63., -63.],
     [ 47.,  47.,  47., ..., -63., -63., -63.],
     [ 47.,  47.,  47., ..., -63., -63., -63.],
     ...,
     [  9.,   9.,   9., ..., -10., -10., -10.],
     [  9.,   9.,   9., ..., -10., -10., -10.],
     [  9.,   9.,   9., ..., -10., -10., -10.]],

    [[ -5.,  -5.,  -5., ...,   3.,   3.,   3.],
     [ -5.,  -5.,  -5., ...,   3.,   3.,   3.],
     [ -5.,  -5.,  -5., ...,   3.,   3.,   3.],
     ...,
     [ -3.,  -3.,  -3., ...,  -5.,  -5.,  -5.],
     [ -3.,  -3.,  -3., ...,  -5.,  -5.,  -5.],
     [ -3.,  -3.,  -3., ...,  -5.,  -5.,  -5.]],

    [[  2.,   2.,   2., ...,   2.,   2.,   2.],
     [  2.,   2.,   2., ...,   2.,   2.,   2.],
     [  2.,   2.,   2., ...,   1.,   1.,   1.],
     ...,
     [  4.,   4.,   4., ...,   2.,   2.,   2.],
     [  4.,   4.,   4., ...,   2.,   2.,   2.],
     [  4.,   4.,   4., ...,   2.,   2.,   2.]]]], dtype=float32), array([[[[ 11.,   9.,   7., ..., -43., -43., -44.],
     [ 11.,   9.,   7., ..., -42., -43., -43.],
     [ 11.,   9.,   7., ..., -44., -44., -44.],
     ...,
     [ -4.,  -4.,  -4., ..., -13., -13., -13.],
     [ -4.,  -4.,  -4., ..., -13., -13., -13.],
     [ -4.,  -4.,  -4., ..., -13., -13., -13.]],

    [[ -5.,  -5.,  -4., ...,   2.,   2.,   2.],
     [ -5.,  -5.,  -4., ...,   2.,   2.,   2.],
     [ -5.,  -5.,  -4., ...,   2.,   2.,   2.],
     ...,
     [ -5.,  -5.,  -5., ...,  -1.,  -1.,  -1.],
     [ -5.,  -5.,  -5., ...,  -1.,  -1.,  -1.],
     [ -5.,  -5.,  -5., ...,  -1.,  -1.,  -1.]],

    [[  3.,   3.,   2., ...,   2.,   4.,   4.],
     [  3.,   3.,   2., ...,   2.,   4.,   4.],
     [  3.,   3.,   2., ...,   2.,   3.,   3.],
     ...,
     [  4.,   4.,   4., ...,   0.,   0.,   0.],
     [  4.,   4.,   4., ...,   0.,   0.,   0.],
     [  4.,   4.,   4., ...,   0.,   0.,   0.]]]], dtype=float32), array([[[[ 26.,  26.,  26., ..., -16., -26., -35.],
     [ 26.,  26.,  26., ...,  -9., -19., -27.],
     [ 26.,  26.,  26., ...,  -1., -10., -18.],
     ...,
     [ -3.,  -3.,  -3., ..., -12., -12., -12.],
     [ -3.,  -3.,  -3., ..., -12., -12., -12.],
     [ -3.,  -3.,  -3., ..., -12., -12., -12.]],

    [[ -4.,  -4.,  -4., ...,  -3.,  -3.,  -3.],
     [ -4.,  -4.,  -4., ...,  -3.,  -3.,  -3.],
     [ -4.,  -4.,  -4., ...,  -3.,  -3.,  -3.],
     ...,
     [ -5.,  -5.,  -5., ...,  -2.,  -2.,  -2.],
     [ -5.,  -5.,  -5., ...,  -2.,  -2.,  -2.],
     [ -5.,  -5.,  -5., ...,  -2.,  -2.,  -2.]],

    [[  5.,   5.,   5., ...,   2.,   3.,   3.],
     [  5.,   5.,   5., ...,   2.,   3.,   3.],
     [  5.,   5.,   5., ...,   2.,   3.,   3.],
     ...,
     [  5.,   5.,   5., ...,   0.,   0.,   0.],
     [  5.,   5.,   5., ...,   0.,   0.,   0.],
     [  5.,   5.,   5., ...,   0.,   0.,   0.]]]], dtype=float32), array([[[[ 72.,  71.,  69., ...,  43.,  43.,  44.],
     [ 72.,  71.,  69., ...,  40.,  39.,  39.],
     [ 68.,  67.,  66., ...,  34.,  30.,  29.],
     ...,
     [ 32.,  32.,  31., ..., -41., -41., -41.],
     [ 32.,  32.,  31., ..., -41., -41., -41.],
     [ 32.,  32.,  31., ..., -41., -41., -41.]],

    [[ -2.,  -2.,  -2., ..., -12., -12., -12.],
     [ -2.,  -2.,  -2., ..., -12., -12., -12.],
     [ -2.,  -2.,  -2., ..., -11., -11., -11.],
     ...,
     [ -5.,  -5.,  -5., ...,  -6.,  -6.,  -6.],
     [ -5.,  -5.,  -5., ...,  -6.,  -6.,  -6.],
     [ -5.,  -5.,  -5., ...,  -6.,  -6.,  -6.]],

    [[  3.,   3.,   3., ...,  10.,  10.,  10.],
     [  3.,   3.,   3., ...,  10.,  10.,  10.],
     [  3.,   3.,   4., ...,  10.,  10.,  10.],
     ...,
     [  2.,   2.,   2., ...,   0.,   0.,   0.],
     [  2.,   2.,   2., ...,   0.,   0.,   0.],
     [  2.,   2.,   2., ...,   0.,   0.,   0.]]]], dtype=float32), array([[[[-128., -128., -128., ..., -128., -128., -128.],
     [-128., -128., -128., ..., -128., -128., -128.],
     [-128., -128., -128., ..., -128., -128., -128.],
     ...,
     [-128., -128., -128., ..., -128., -128., -128.],
     [-128., -128., -128., ..., -128., -128., -128.],
     [-128., -128., -128., ..., -128., -128., -128.]],

    [[   0.,    0.,    0., ...,    0.,    0.,    0.],
     [   0.,    0.,    0., ...,    0.,    0.,    0.],
     [   0.,    0.,    0., ...,    0.,    0.,    0.],
     ...,
     [   0.,    0.,    0., ...,    0.,    0.,    0.],
     [   0.,    0.,    0., ...,    0.,    0.,    0.],
     [   0.,    0.,    0., ...,    0.,    0.,    0.]],

    [[   0.,    0.,    0., ...,    0.,    0.,    0.],
     [   0.,    0.,    0., ...,    0.,    0.,    0.],
     [   0.,    0.,    0., ...,    0.,    0.,    0.],
     ...,
     [   0.,    0.,    0., ...,    0.,    0.,    0.],
     [   0.,    0.,    0., ...,    0.,    0.,    0.],
     [   0.,    0.,    0., ...,    0.,    0.,    0.]]]], dtype=float32), array([[[[ 21.,  21.,  21., ..., -46., -47., -47.],
     [ 21.,  21.,  21., ..., -46., -46., -48.],
     [ 21.,  21.,  21., ..., -46., -46., -48.],
     ...,
     [ 74.,  89.,  90., ...,  90.,  89.,  90.],
     [ 91.,  98., 106., ..., 112., 112., 111.],
     [ 91.,  57.,  93., ..., 112., 112., 112.]],

    [[  0.,   0.,   0., ...,  -7.,  -3.,  -3.],
     [  0.,   0.,   0., ...,  -7.,  -3.,  -3.],
     [  0.,   0.,   0., ...,  -6.,  -4.,  -4.],
     ...,
     [ -1.,  -1.,  -1., ...,   2.,   3.,   3.],
     [ -1.,  -1.,  -1., ...,   0.,   0.,   0.],
     [ -1.,  -1.,  -1., ...,   0.,   0.,   0.]],

    [[  0.,   0.,   0., ...,   0.,   0.,   0.],
     [  0.,   0.,   0., ...,   0.,   0.,   0.],
     [  0.,   0.,   0., ...,   1.,   2.,   2.],
     ...,
     [  0.,   0.,   0., ...,  -3.,  -4.,  -4.],
     [ -1.,  -1.,  -1., ...,   0.,  -1.,  -1.],
     [ -1.,  -1.,  -1., ...,   0.,  -1.,  -1.]]]], dtype=float32), array([[[[ -5.,  -4.,  -4., ..., -32., -32., -36.],
     [ -3.,  -2.,  -1., ..., -31., -31., -33.],
     [  1.,   2.,   1., ..., -29., -29., -33.],
     ...,
     [-85., -85., -84., ...,  61.,  61.,  56.],
     [-85., -84., -84., ...,  61.,  61.,  57.],
     [-88., -87., -86., ...,  53.,  53.,  50.]],

    [[-14., -14., -13., ...,  -7.,  -9.,  -9.],
     [-14., -14., -13., ...,  -7.,  -9.,  -9.],
     [-15., -15., -13., ...,  -8., -10., -10.],
     ...,
     [  0.,   0.,   0., ...,   2.,   0.,   0.],
     [ -2.,  -2.,  -2., ...,  -4.,  -6.,  -6.],
     [ -2.,  -2.,  -2., ...,  -4.,  -6.,  -6.]],

    [[ 10.,  10.,  10., ...,  10.,   8.,   8.],
     [ 10.,  10.,  10., ...,  10.,   8.,   8.],
     [ 10.,  10.,  10., ...,   9.,   7.,   7.],
     ...,
     [ -1.,  -1.,  -1., ...,   0.,  -3.,  -3.],
     [ -4.,  -4.,  -4., ...,  -6.,  -8.,  -8.],
     [ -4.,  -4.,  -4., ...,  -6.,  -8.,  -8.]]]], dtype=float32), array([[[[ -7.,  -8.,  -9., ...,  44.,  43.,  40.],
     [ -8.,  -8.,  -9., ...,  44.,  42.,  38.],
     [ -7.,  -8.,  -9., ...,  62.,  60.,  54.],
     ...,
     [-88., -88., -88., ...,  25.,  25.,  22.],
     [-88., -88., -88., ...,  25.,  25.,  21.],
     [-90., -90., -90., ...,  18.,  18.,  15.]],

    [[ -8.,  -8.,  -8., ...,   2.,   0.,   0.],
     [ -8.,  -8.,  -8., ...,   2.,   0.,   0.],
     [ -8.,  -8.,  -8., ...,   1.,  -1.,  -1.],
     ...,
     [  0.,   0.,   0., ...,   0.,  -2.,  -2.],
     [ -4.,  -4.,  -4., ...,  -6.,  -7.,  -7.],
     [ -4.,  -4.,  -4., ...,  -6.,  -7.,  -7.]],

    [[  7.,   7.,   7., ...,  10.,   7.,   7.],
     [  7.,   7.,   7., ...,  10.,   7.,   7.],
     [  7.,   7.,   7., ...,  12.,   9.,   9.],
     ...,
     [  0.,   0.,   0., ...,   0.,  -2.,  -2.],
     [ -4.,  -4.,  -4., ...,  -6.,  -8.,  -8.],
     [ -4.,  -4.,  -4., ...,  -6.,  -8.,  -8.]]]], dtype=float32), array([[[[-35., -35., -35., ...,  -8.,  -7., -10.],
     [-36., -36., -36., ...,  -5.,  -3., -12.],
     [-37., -37., -37., ...,  -3.,  -4., -19.],
     ...,
     [-79., -81., -81., ...,  54.,  54.,  50.],
     [-80., -82., -81., ...,  53.,  53.,  49.],
     [-84., -86., -85., ...,  45.,  45.,  43.]],

    [[-11., -11., -11., ...,   1.,  -2.,  -2.],
     [-11., -11., -11., ...,   1.,  -2.,  -2.],
     [-11., -11., -11., ...,   0.,  -2.,  -2.],
     ...,
     [  0.,   0.,   0., ...,   2.,   0.,   0.],
     [ -4.,  -4.,  -4., ...,  -3.,  -5.,  -5.],
     [ -4.,  -4.,  -4., ...,  -3.,  -5.,  -5.]],

    [[  9.,   9.,   9., ...,   5.,   3.,   3.],
     [  9.,   9.,   9., ...,   5.,   3.,   3.],
     [  9.,   9.,   9., ...,   5.,   3.,   3.],
     ...,
     [  0.,   0.,   0., ...,   0.,  -3.,  -3.],
     [ -5.,  -5.,  -4., ...,  -6.,  -8.,  -8.],
     [ -5.,  -5.,  -4., ...,  -6.,  -8.,  -8.]]]], dtype=float32), array([[[[  2.,   2.,   2., ..., -32., -32., -36.],
     [  2.,   2.,   2., ..., -32., -32., -36.],
     [  2.,   2.,   2., ..., -33., -33., -36.],
     ...,
     [-84., -84., -84., ...,  66.,  65.,  62.],
     [-85., -85., -85., ...,  65.,  64.,  61.],
     [-87., -87., -87., ...,  56.,  56.,  55.]],

    [[-13., -13., -13., ...,  -5.,  -7.,  -7.],
     [-13., -13., -13., ...,  -5.,  -7.,  -7.],
     [-13., -13., -13., ...,  -5.,  -7.,  -7.],
     ...,
     [  0.,   0.,   0., ...,   3.,   0.,   0.],
     [ -4.,  -4.,  -4., ...,  -4.,  -5.,  -5.],
     [ -4.,  -4.,  -4., ...,  -4.,  -5.,  -5.]],

    [[  9.,   9.,   9., ...,   3.,   2.,   2.],
     [  9.,   9.,   9., ...,   3.,   2.,   2.],
     [  9.,   9.,   9., ...,   5.,   3.,   3.],
     ...,
     [  0.,   0.,   0., ...,  -2.,  -4.,  -4.],
     [ -5.,  -5.,  -5., ...,  -7.,  -9.,  -9.],
     [ -5.,  -5.,  -5., ...,  -7.,  -9.,  -9.]]]], dtype=float32), array([[[[ -95.,  -95.,  -96., ...,  -97.,  -95.,  -94.],
     [ -95.,  -95.,  -96., ...,  -97.,  -96.,  -92.],
     [  68.,   69.,   69., ...,   44.,   44.,   41.],
     ...,
     [ -40.,  -41.,  -41., ...,   33.,   31.,   28.],
     [ -50.,  -50.,  -51., ...,   16.,   15.,   12.],
     [-106., -106., -107., ..., -106., -106., -102.]],

    [[   1.,    1.,    1., ...,    2.,    0.,    0.],
     [   1.,    1.,    1., ...,    2.,    0.,    0.],
     [   6.,    6.,    6., ...,    5.,    4.,    4.],
     ...,
     [  -7.,   -7.,  -12., ...,  -16.,  -18.,  -18.],
     [  -7.,   -7.,  -10., ...,  -12.,  -13.,  -13.],
     [  -7.,   -7.,  -10., ...,  -12.,  -13.,  -13.]],

    [[  -3.,   -3.,   -4., ...,   -4.,   -7.,   -7.],
     [  -3.,   -3.,   -4., ...,   -4.,   -7.,   -7.],
     [ -29.,  -29.,  -29., ...,  -25.,  -27.,  -27.],
     ...,
     [  33.,   33.,   38., ...,   32.,   29.,   29.],
     [  21.,   21.,   25., ...,   18.,   15.,   15.],
     [  21.,   21.,   25., ...,   18.,   15.,   15.]]]], dtype=float32), array([[[[ -96.,  -96.,  -96., ...,  -95.,  -95.,  -95.],
     [ -98.,  -98.,  -97., ...,  -95.,  -96.,  -93.],
     [  73.,   73.,   73., ...,  107.,  106.,   97.],
     ...,
     [   5.,    4.,   10., ...,   18.,   18.,   15.],
     [  -6.,   -6.,    0., ...,    3.,    4.,    1.],
     [-105., -105., -105., ..., -104., -104., -102.]],

    [[   1.,    1.,    1., ...,    1.,    0.,    0.],
     [   1.,    1.,    1., ...,    1.,    0.,    0.],
     [   5.,    5.,    4., ...,    4.,    3.,    3.],
     ...,
     [  19.,   19.,   19., ...,   40.,   37.,   37.],
     [  10.,   10.,   10., ...,   26.,   24.,   24.],
     [  10.,   10.,   10., ...,   26.,   24.,   24.]],

    [[  -4.,   -4.,   -4., ...,   -5.,   -6.,   -6.],
     [  -4.,   -4.,   -4., ...,   -5.,   -6.,   -6.],
     [ -26.,  -26.,  -26., ...,  -23.,  -25.,  -25.],
     ...,
     [ -40.,  -40.,  -40., ...,  -28.,  -30.,  -30.],
     [ -29.,  -29.,  -29., ...,  -20.,  -22.,  -22.],
     [ -29.,  -29.,  -29., ...,  -20.,  -22.,  -22.]]]], dtype=float32), array([[[[ -95.,  -95.,  -95., ...,  -95.,  -95.,  -96.],
     [ -96.,  -96.,  -96., ...,  -95.,  -97.,  -95.],
     [  75.,   75.,   75., ...,  119.,  109.,   70.],
     ...,
     [ -17.,  -19.,  -21., ...,   36.,   36.,   32.],
     [ -27.,  -28.,  -31., ...,   20.,   19.,   16.],
     [-105., -105., -105., ..., -105., -105., -105.]],

    [[   2.,    2.,    2., ...,    0.,   -2.,   -2.],
     [   2.,    2.,    2., ...,    0.,   -2.,   -2.],
     [   6.,    6.,    6., ...,    0.,   -1.,   -1.],
     ...,
     [  13.,   13.,   12., ...,   30.,   30.,   30.],
     [   7.,    7.,    7., ...,   17.,   17.,   17.],
     [   7.,    7.,    7., ...,   17.,   17.,   17.]],

    [[  -4.,   -4.,   -4., ...,   -2.,   -3.,   -3.],
     [  -4.,   -4.,   -4., ...,   -2.,   -3.,   -3.],
     [ -25.,  -25.,  -26., ...,   -6.,   -8.,   -8.],
     ...,
     [ -35.,  -35.,  -31., ...,  -20.,  -23.,  -23.],
     [ -26.,  -26.,  -23., ...,  -16.,  -18.,  -18.],
     [ -26.,  -26.,  -23., ...,  -16.,  -18.,  -18.]]]], dtype=float32), array([[[[ -94.,  -93.,  -94., ...,  -95.,  -95.,  -95.],
     [ -95.,  -96.,  -95., ...,  -95.,  -95.,  -94.],
     [   6.,    3.,    4., ...,   15.,   15.,   10.],
     ...,
     [ -75.,  -77.,  -77., ...,   92.,   92.,   89.],
     [ -79.,  -81.,  -80., ...,   69.,   69.,   66.],
     [-105., -105., -105., ..., -105., -105., -102.]],

    [[  -3.,   -3.,   -3., ...,   -2.,   -3.,   -3.],
     [  -3.,   -3.,   -3., ...,   -2.,   -3.,   -3.],
     [  -8.,   -8.,   -8., ...,  -11.,  -13.,  -13.],
     ...,
     [   4.,    4.,    4., ...,    2.,    0.,    0.],
     [  -1.,   -1.,   -2., ...,   -3.,   -4.,   -4.],
     [  -1.,   -1.,   -2., ...,   -3.,   -4.,   -4.]],

    [[   0.,    0.,    0., ...,    2.,    0.,    0.],
     [   0.,    0.,    0., ...,    2.,    0.,    0.],
     [   3.,    3.,    3., ...,    3.,    1.,    1.],
     ...,
     [  -2.,   -2.,   -2., ...,   -3.,   -5.,   -5.],
     [  -6.,   -6.,   -6., ...,   -6.,   -7.,   -7.],
     [  -6.,   -6.,   -6., ...,   -6.,   -7.,   -7.]]]], dtype=float32), array([[[[-87., -94., -95., ..., -94., -94., -96.],
     [-86., -94., -95., ..., -94., -94., -94.],
     [-31., -36., -36., ..., -79., -79., -82.],
     ...,
     [-83., -91., -91., ...,  42.,  42.,  39.],
     [-83., -91., -91., ...,  40.,  41.,  35.],
     [-87., -92., -92., ...,  32.,  32.,  28.]],

    [[  0.,   0.,   0., ...,   0.,  -1.,  -1.],
     [  0.,   0.,   0., ...,   0.,  -1.,  -1.],
     [ -5.,  -5.,  -5., ...,  -4.,  -6.,  -6.],
     ...,
     [  0.,   0.,   0., ...,  -3.,  -5.,  -5.],
     [ -2.,  -2.,  -2., ...,  -7.,  -9.,  -9.],
     [ -2.,  -2.,  -2., ...,  -7.,  -9.,  -9.]],

    [[  0.,   0.,  -1., ...,  -1.,  -2.,  -2.],
     [  0.,   0.,  -1., ...,  -1.,  -2.,  -2.],
     [  2.,   2.,   2., ...,   2.,   0.,   0.],
     ...,
     [ -1.,  -1.,  -1., ...,   2.,   0.,   0.],
     [ -4.,  -4.,  -4., ...,  -2.,  -5.,  -5.],
     [ -4.,  -4.,  -4., ...,  -2.,  -5.,  -5.]]]], dtype=float32), array([[[[-87., -95., -94., ..., -94., -95., -95.],
     [-88., -94., -95., ..., -95., -94., -95.],
     [-34., -39., -39., ..., -78., -79., -83.],
     ...,
     [-79., -86., -86., ...,  54.,  54.,  49.],
     [-78., -86., -86., ...,  53.,  53.,  49.],
     [-84., -90., -90., ...,  45.,  45.,  42.]],

    [[ -1.,  -1.,  -1., ...,  -2.,  -2.,  -2.],
     [ -1.,  -1.,  -1., ...,  -2.,  -2.,  -2.],
     [ -6.,  -6.,  -6., ...,  -3.,  -4.,  -4.],
     ...,
     [ -1.,  -1.,  -1., ...,  -1.,  -3.,  -3.],
     [ -4.,  -4.,  -4., ...,  -6.,  -8.,  -8.],
     [ -4.,  -4.,  -4., ...,  -6.,  -8.,  -8.]],

    [[ -1.,  -1.,  -1., ...,  -1.,  -2.,  -2.],
     [ -1.,  -1.,  -1., ...,  -1.,  -2.,  -2.],
     [  4.,   4.,   4., ...,   4.,   2.,   2.],
     ...,
     [  1.,   1.,   1., ...,   1.,  -1.,  -1.],
     [ -3.,  -3.,  -2., ...,  -4.,  -6.,  -6.],
     [ -3.,  -3.,  -2., ...,  -4.,  -6.,  -6.]]]], dtype=float32), array([[[[-87., -95., -94., ..., -95., -95., -94.],
     [-87., -95., -95., ..., -95., -95., -95.],
     [-28., -33., -34., ..., -42., -43., -42.],
     ...,
     [-83., -91., -92., ...,  35.,  35.,  30.],
     [-84., -92., -92., ...,  34.,  34.,  30.],
     [-88., -93., -93., ...,  27.,  27.,  23.]],

    [[  0.,   0.,   0., ...,  -1.,  -2.,  -2.],
     [  0.,   0.,   0., ...,  -1.,  -2.,  -2.],
     [ -5.,  -5.,  -5., ...,  -7.,  -9.,  -9.],
     ...,
     [ -1.,  -1.,  -1., ...,  -3.,  -5.,  -5.],
     [ -5.,  -5.,  -5., ...,  -8., -10., -10.],
     [ -5.,  -5.,  -5., ...,  -8., -10., -10.]],

    [[ -1.,  -1.,  -1., ...,   0.,  -1.,  -1.],
     [ -1.,  -1.,  -1., ...,   0.,  -1.,  -1.],
     [  5.,   5.,   5., ...,   2.,   0.,   0.],
     ...,
     [  1.,   1.,   1., ...,   2.,   0.,   0.],
     [ -4.,  -4.,  -4., ...,  -3.,  -5.,  -5.],
     [ -4.,  -4.,  -4., ...,  -3.,  -5.,  -5.]]]], dtype=float32), array([[[[-88., -94., -96., ..., -95., -95., -95.],
     [-88., -95., -95., ..., -96., -96., -95.],
     [-34., -38., -39., ..., -52., -51., -53.],
     ...,
     [-83., -91., -90., ...,  33.,  33.,  29.],
     [-83., -91., -89., ...,  32.,  34.,  29.],
     [-87., -91., -91., ...,  25.,  26.,  22.]],

    [[ -1.,  -1.,  -1., ...,  -2.,  -2.,  -2.],
     [ -1.,  -1.,  -1., ...,  -2.,  -2.,  -2.],
     [ -5.,  -5.,  -5., ...,  -3.,  -5.,  -5.],
     ...,
     [ -3.,  -3.,  -3., ...,  -3.,  -4.,  -4.],
     [ -5.,  -5.,  -5., ...,  -8., -10., -10.],
     [ -5.,  -5.,  -5., ...,  -8., -10., -10.]],

    [[  0.,   0.,   0., ...,  -2.,  -3.,  -3.],
     [  0.,   0.,   0., ...,  -2.,  -3.,  -3.],
     [  2.,   2.,   2., ...,   3.,   1.,   1.],
     ...,
     [  2.,   2.,   2., ...,   2.,   0.,   0.],
     [ -4.,  -4.,  -4., ...,  -4.,  -5.,  -5.],
     [ -4.,  -4.,  -4., ...,  -4.,  -5.,  -5.]]]], dtype=float32), array([[[[-87., -95., -95., ..., -95., -95., -94.],
     [-86., -95., -94., ..., -94., -94., -96.],
     [-35., -40., -40., ..., -65., -63., -68.],
     ...,
     [-78., -85., -86., ...,   3.,   4.,   1.],
     [-79., -86., -85., ...,   3.,   3.,   1.],
     [-83., -89., -88., ...,  -5.,  -4.,  -5.]],

    [[  0.,   0.,   0., ...,   0.,  -1.,  -1.],
     [  0.,   0.,   0., ...,   0.,  -1.,  -1.],
     [ -4.,  -4.,  -4., ...,  -4.,  -5.,  -5.],
     ...,
     [ -1.,  -1.,  -1., ...,  -7.,  -9.,  -9.],
     [ -4.,  -4.,  -4., ..., -12., -14., -14.],
     [ -4.,  -4.,  -4., ..., -12., -14., -14.]],

    [[  0.,   0.,  -1., ...,  -1.,  -2.,  -2.],
     [  0.,   0.,  -1., ...,  -1.,  -2.,  -2.],
     [  3.,   3.,   3., ...,   3.,   1.,   1.],
     ...,
     [  1.,   1.,   1., ...,   5.,   4.,   4.],
     [ -3.,  -3.,  -2., ...,   1.,  -1.,  -1.],
     [ -3.,  -3.,  -2., ...,   1.,  -1.,  -1.]]]], dtype=float32), array([[[[-86., -94., -95., ..., -95., -95., -95.],
     [-85., -94., -95., ..., -95., -95., -95.],
     [-21., -26., -27., ..., -28., -27., -30.],
     ...,
     [-70., -75., -75., ...,  78.,  78.,  74.],
     [-67., -72., -72., ...,  77.,  78.,  74.],
     [-75., -79., -80., ...,  69.,  69.,  67.]],

    [[ -1.,  -1.,  -1., ...,   0.,  -1.,  -1.],
     [ -1.,  -1.,  -1., ...,   0.,  -1.,  -1.],
     [ -3.,  -3.,  -4., ...,  -6.,  -7.,  -7.],
     ...,
     [ -3.,  -3.,  -3., ...,  -6.,  -7.,  -7.],
     [ -7.,  -7.,  -7., ..., -11., -13., -13.],
     [ -7.,  -7.,  -7., ..., -11., -13., -13.]],

    [[ -2.,  -2.,  -2., ...,   0.,  -1.,  -1.],
     [ -2.,  -2.,  -2., ...,   0.,  -1.,  -1.],
     [  4.,   4.,   4., ...,   4.,   2.,   2.],
     ...,
     [  5.,   5.,   5., ...,   2.,   2.,   2.],
     [ -2.,  -2.,  -2., ...,  -2.,  -4.,  -4.],
     [ -2.,  -2.,  -2., ...,  -2.,  -4.,  -4.]]]], dtype=float32), array([[[[-87., -94., -95., ..., -95., -95., -94.],
     [-85., -93., -95., ..., -95., -95., -96.],
     [-29., -33., -33., ...,  -4.,  -5.,  -8.],
     ...,
     [-60., -66., -65., ...,  70.,  70.,  67.],
     [-61., -66., -66., ...,  69.,  68.,  66.],
     [-68., -74., -73., ...,  61.,  61.,  57.]],

    [[  1.,   1.,   1., ...,  -2.,  -3.,  -3.],
     [  1.,   1.,   1., ...,  -2.,  -3.,  -3.],
     [ -1.,  -1.,  -1., ...,  -5.,  -6.,  -6.],
     ...,
     [  2.,   2.,   2., ...,   0.,  -2.,  -2.],
     [ -4.,  -4.,  -4., ...,  -6.,  -7.,  -7.],
     [ -4.,  -4.,  -4., ...,  -6.,  -7.,  -7.]],

    [[  2.,   2.,   2., ...,  -1.,  -3.,  -3.],
     [  2.,   2.,   2., ...,  -1.,  -3.,  -3.],
     [  2.,   2.,   2., ...,   3.,   1.,   1.],
     ...,
     [  0.,   0.,   0., ...,   0.,  -2.,  -2.],
     [ -7.,  -7.,  -7., ...,  -6.,  -8.,  -8.],
     [ -7.,  -7.,  -7., ...,  -6.,  -8.,  -8.]]]], dtype=float32), array([[[[-87., -95., -96., ..., -94., -94., -94.],
     [-86., -96., -94., ..., -94., -94., -96.],
     [-36., -41., -40., ..., -72., -73., -77.],
     ...,
     [-69., -75., -77., ...,  50.,  50.,  46.],
     [-68., -74., -77., ...,  49.,  50.,  45.],
     [-74., -81., -82., ...,  41.,  41.,  39.]],

    [[ -1.,  -1.,  -2., ...,   0.,  -1.,  -1.],
     [ -1.,  -1.,  -2., ...,   0.,  -1.,  -1.],
     [-13., -13., -13., ...,  -7.,  -8.,  -8.],
     ...,
     [ -7.,  -7.,  -6., ...,   6.,   3.,   3.],
     [ -8.,  -8.,  -8., ...,  -1.,  -2.,  -2.],
     [ -8.,  -8.,  -8., ...,  -1.,  -2.,  -2.]],

    [[  0.,   0.,   0., ...,   2.,   0.,   0.],
     [  0.,   0.,   0., ...,   2.,   0.,   0.],
     [ 11.,  11.,  12., ...,  11.,   9.,   9.],
     ...,
     [  5.,   5.,   5., ..., -10., -12., -12.],
     [ -3.,  -3.,  -3., ..., -15., -17., -17.],
     [ -3.,  -3.,  -3., ..., -15., -17., -17.]]]], dtype=float32), array([[[[-88., -95., -96., ..., -94., -94., -95.],
     [-87., -96., -96., ..., -94., -94., -95.],
     [-10., -14., -14., ..., -44., -43., -45.],
     ...,
     [-72., -78., -79., ...,  35.,  36.,  31.],
     [-72., -78., -79., ...,  36.,  36.,  32.],
     [-78., -83., -84., ...,  28.,  29.,  25.]],

    [[ -2.,  -2.,  -2., ...,   2.,   0.,   0.],
     [ -2.,  -2.,  -2., ...,   2.,   0.,   0.],
     [-11., -11., -11., ...,  -8., -10., -10.],
     ...,
     [ -3.,  -3.,  -3., ...,   6.,   4.,   4.],
     [ -7.,  -7.,  -7., ...,   1.,  -1.,  -1.],
     [ -7.,  -7.,  -7., ...,   1.,  -1.,  -1.]],

    [[ -1.,  -1.,   0., ...,  -1.,  -2.,  -2.],
     [ -1.,  -1.,   0., ...,  -1.,  -2.,  -2.],
     [  9.,   9.,  10., ...,   7.,   6.,   6.],
     ...,
     [  5.,   5.,   5., ..., -10., -11., -11.],
     [  1.,   1.,   1., ..., -13., -14., -14.],
     [  1.,   1.,   1., ..., -13., -14., -14.]]]], dtype=float32), array([[[[-86., -92., -94., ..., -94., -94., -95.],
     [-85., -92., -92., ..., -95., -95., -97.],
     [-29., -33., -34., ..., -17., -16., -18.],
     ...,
     [-39., -42., -40., ..., -31., -38., -52.],
     [-39., -41., -39., ..., -31., -38., -52.],
     [-46., -49., -47., ..., -39., -46., -56.]],

    [[ -3.,  -3.,  -3., ...,   1.,   0.,   0.],
     [ -3.,  -3.,  -3., ...,   1.,   0.,   0.],
     [-11., -11., -11., ..., -11., -12., -12.],
     ...,
     [  4.,   4.,   6., ...,   5.,   2.,   2.],
     [  1.,   1.,   3., ...,  -1.,  -3.,  -3.],
     [  1.,   1.,   3., ...,  -1.,  -3.,  -3.]],

    [[  2.,   2.,   2., ...,   1.,  -1.,  -1.],
     [  2.,   2.,   2., ...,   1.,  -1.,  -1.],
     [ 11.,  11.,  11., ...,  11.,   9.,   9.],
     ...,
     [ 28.,  28.,  29., ...,  -3.,  -2.,  -2.],
     [ 24.,  24.,  23., ...,  -8., -10., -10.],
     [ 24.,  24.,  23., ...,  -8., -10., -10.]]]], dtype=float32), array([[[[-86., -95., -94., ..., -95., -95., -94.],
     [-86., -95., -94., ..., -95., -95., -95.],
     [-27., -24., -25., ..., -18., -19., -21.],
     ...,
     [-68., -75., -74., ...,  80.,  80.,  75.],
     [-67., -74., -73., ...,  79.,  78.,  73.],
     [-72., -79., -79., ...,  71.,  70.,  67.]],

    [[ -1.,  -1.,   1., ...,  -2.,  -2.,  -2.],
     [ -1.,  -1.,   1., ...,  -2.,  -2.,  -2.],
     [ -3.,  -3.,  -3., ...,  -8.,  -9.,  -9.],
     ...,
     [ -3.,  -3.,  -3., ...,  -8.,  -9.,  -9.],
     [ -7.,  -7.,  -8., ..., -14., -15., -15.],
     [ -7.,  -7.,  -8., ..., -14., -15., -15.]],

    [[  0.,   0.,   0., ...,  -1.,  -2.,  -2.],
     [  0.,   0.,   0., ...,  -1.,  -2.,  -2.],
     [  4.,   4.,   4., ...,   4.,   3.,   3.],
     ...,
     [  2.,   2.,   2., ...,   3.,   2.,   2.],
     [ -1.,  -1.,  -2., ...,  -2.,  -4.,  -4.],
     [ -1.,  -1.,  -2., ...,  -2.,  -4.,  -4.]]]], dtype=float32), array([[[[  1.,  -3.,  -2., ...,  14.,  13.,  10.],
     [  1.,  -3.,  -2., ...,  14.,  15.,  11.],
     [  1.,  -3.,  -2., ...,  19.,  20.,  16.],
     ...,
     [-71., -78., -77., ...,  74.,  74.,  69.],
     [-71., -78., -77., ...,  75.,  76.,  71.],
     [-75., -81., -81., ...,  68.,  69.,  65.]],

    [[ -7.,  -7.,  -7., ..., -12., -14., -14.],
     [ -7.,  -7.,  -7., ..., -12., -14., -14.],
     [ -8.,  -8.,  -8., ..., -12., -15., -15.],
     ...,
     [ -2.,  -2.,  -2., ...,  -1.,  -1.,  -1.],
     [ -5.,  -5.,  -5., ...,  -5.,  -8.,  -8.],
     [ -5.,  -5.,  -5., ...,  -5.,  -8.,  -8.]],

    [[  4.,   4.,   4., ...,   4.,   1.,   1.],
     [  4.,   4.,   4., ...,   4.,   1.,   1.],
     [  4.,   4.,   4., ...,   4.,   2.,   2.],
     ...,
     [ -1.,  -1.,  -1., ...,   0.,  -4.,  -4.],
     [ -5.,  -5.,  -5., ...,  -5.,  -9.,  -9.],
     [ -5.,  -5.,  -5., ...,  -5.,  -9.,  -9.]]]], dtype=float32), array([[[[ 15.,  12.,  12., ..., -33., -32., -36.],
     [ 15.,  12.,  12., ..., -32., -32., -35.],
     [ 15.,  12.,  12., ..., -31., -31., -34.],
     ...,
     [-76., -83., -82., ...,  66.,  66.,  62.],
     [-77., -82., -81., ...,  65.,  65.,  62.],
     [-81., -85., -85., ...,  59.,  59.,  57.]],

    [[ -7.,  -7.,  -7., ...,  -8., -11., -11.],
     [ -7.,  -7.,  -7., ...,  -8., -11., -11.],
     [ -7.,  -7.,  -7., ..., -10., -12., -12.],
     ...,
     [ -2.,  -2.,  -2., ...,   2.,  -1.,  -1.],
     [ -5.,  -5.,  -5., ...,  -4.,  -6.,  -6.],
     [ -5.,  -5.,  -5., ...,  -4.,  -6.,  -6.]],

    [[  5.,   5.,   5., ...,   9.,   7.,   7.],
     [  5.,   5.,   5., ...,   9.,   7.,   7.],
     [  5.,   5.,   5., ...,  10.,   7.,   7.],
     ...,
     [ -3.,  -3.,  -3., ...,  -3.,  -5.,  -5.],
     [ -4.,  -4.,  -4., ...,  -7., -10., -10.],
     [ -4.,  -4.,  -4., ...,  -7., -10., -10.]]]], dtype=float32), array([[[[  4.,   1.,   4., ..., -46., -45., -50.],
     [  4.,   2.,   2., ..., -46., -45., -50.],
     [  5.,   2.,   2., ..., -46., -45., -50.],
     ...,
     [-55., -60., -61., ...,  65.,  65.,  61.],
     [-56., -60., -59., ...,  64.,  64.,  60.],
     [-62., -67., -67., ...,  55.,  57.,  53.]],

    [[-10., -10., -10., ...,  -3.,  -5.,  -5.],
     [-10., -10., -10., ...,  -3.,  -5.,  -5.],
     [-11., -11., -11., ...,  -3.,  -5.,  -5.],
     ...,
     [ -1.,  -1.,  -1., ...,  -1.,  -1.,  -1.],
     [ -5.,  -5.,  -5., ...,  -4.,  -8.,  -8.],
     [ -5.,  -5.,  -5., ...,  -4.,  -8.,  -8.]],

    [[  7.,   7.,   7., ...,  78.,  74.,  74.],
     [  7.,   7.,   7., ...,  78.,  74.,  74.],
     [  7.,   7.,   7., ...,  77.,  75.,  75.],
     ...,
     [  0.,   0.,   0., ...,   1.,  -3.,  -3.],
     [ -5.,  -5.,  -5., ...,  -6., -10., -10.],
     [ -5.,  -5.,  -5., ...,  -6., -10., -10.]]]], dtype=float32), array([[[[-86., -93., -93., ...,  16.,  15.,  12.],
     [-86., -93., -93., ...,  30.,  33.,  29.],
     [-88., -95., -94., ...,  34.,  37.,  34.],
     ...,
     [-56., -74., -85., ...,  84.,  85.,  81.],
     [-62., -78., -86., ...,  83.,  84.,  80.],
     [-73., -83., -87., ...,  76.,  76.,  72.]],

    [[  0.,   0.,   0., ...,  -6.,  -8.,  -8.],
     [  0.,   0.,   0., ...,  -6.,  -8.,  -8.],
     [  0.,   0.,   0., ...,  -7.,  -9.,  -9.],
     ...,
     [ -1.,  -1.,  -1., ...,   2.,  -1.,  -1.],
     [ -6.,  -6.,  -5., ...,  -3.,  -7.,  -7.],
     [ -6.,  -6.,  -5., ...,  -3.,  -7.,  -7.]],

    [[  0.,   0.,   0., ...,   7.,   5.,   5.],
     [  0.,   0.,   0., ...,   7.,   5.,   5.],
     [  0.,   0.,   0., ...,   7.,   4.,   4.],
     ...,
     [ -5.,  -5.,  -3., ...,  -3.,  -5.,  -5.],
     [-11., -11., -10., ...,  -7., -10., -10.],
     [-11., -11., -10., ...,  -7., -10., -10.]]]], dtype=float32), array([[[[ 13.,   8.,   9., ..., -12., -17., -22.],
     [ 12.,   8.,   8., ...,  -2.,  -3.,  -8.],
     [ 14.,  10.,  10., ...,  14.,  14.,  10.],
     ...,
     [-75., -82., -81., ...,  82.,  81.,  76.],
     [-73., -78., -78., ...,  83.,  83.,  78.],
     [-81., -84., -83., ...,  74.,  74.,  70.]],

    [[-11., -11., -11., ...,  -7.,  -9.,  -9.],
     [-11., -11., -11., ...,  -7.,  -9.,  -9.],
     [-11., -11., -11., ...,  -7.,  -8.,  -8.],
     ...,
     [ -2.,  -2.,  -2., ...,   2.,  -1.,  -1.],
     [ -5.,  -5.,  -5., ...,  -2.,  -7.,  -7.],
     [ -5.,  -5.,  -5., ...,  -2.,  -7.,  -7.]],

    [[  4.,   4.,   4., ...,   5.,   1.,   1.],
     [  4.,   4.,   4., ...,   5.,   1.,   1.],
     [  4.,   4.,   4., ...,   5.,   2.,   2.],
     ...,
     [ -1.,  -1.,  -1., ...,  -3.,  -6.,  -6.],
     [ -5.,  -5.,  -5., ...,  -7., -11., -11.],
     [ -5.,  -5.,  -5., ...,  -7., -11., -11.]]]], dtype=float32), array([[[[-95., -95., -95., ..., -94., -96., -95.],
     [-96., -96., -96., ..., -94., -96., -94.],
     [-95., -95., -95., ..., -49., -49., -50.],
     ...,
     [-92., -91., -91., ...,  50.,  50.,  46.],
     [-92., -91., -91., ...,  50.,  49.,  44.],
     [-93., -91., -91., ...,  41.,  41.,  38.]],

    [[ -1.,  -1.,  -2., ...,   1.,  -1.,  -1.],
     [ -1.,  -1.,  -2., ...,   1.,  -1.,  -1.],
     [ -2.,  -2.,  -2., ...,  -4.,  -5.,  -5.],
     ...,
     [  1.,   1.,   0., ...,  -2.,  -2.,  -2.],
     [ -4.,  -4.,  -4., ...,  -5.,  -7.,  -7.],
     [ -4.,  -4.,  -4., ...,  -5.,  -7.,  -7.]],

    [[  0.,   0.,   0., ...,  -1.,  -1.,  -1.],
     [  0.,   0.,   0., ...,  -1.,  -1.,  -1.],
     [  0.,   0.,   0., ...,   3.,  -1.,  -1.],
     ...,
     [ -1.,  -1.,  -1., ...,   0.,   0.,   0.],
     [ -5.,  -5.,  -4., ...,  -3.,  -6.,  -6.],
     [ -5.,  -5.,  -4., ...,  -3.,  -6.,  -6.]]]], dtype=float32), array([[[[ -95.,  -95.,  -95., ...,  -95.,  -95.,  -95.],
     [ -96.,  -96.,  -95., ...,  -96.,  -95.,  -95.],
     [ -92.,  -92.,  -92., ...,  -74.,  -74.,  -76.],
     ...,
     [-102., -102., -102., ...,   50.,   51.,   46.],
     [-101., -101., -101., ...,   49.,   50.,   45.],
     [ -99.,  -99.,  -99., ...,   42.,   42.,   38.]],

    [[  -1.,   -1.,   -1., ...,   -1.,    0.,    0.],
     [  -1.,   -1.,   -1., ...,   -1.,    0.,    0.],
     [  -2.,   -2.,   -2., ...,   -1.,   -3.,   -3.],
     ...,
     [   0.,    0.,    1., ...,   -2.,   -2.,   -2.],
     [  -4.,   -4.,   -3., ...,   -5.,   -8.,   -8.],
     [  -4.,   -4.,   -3., ...,   -5.,   -8.,   -8.]],

    [[  -1.,   -1.,   -1., ...,   -1.,   -2.,   -2.],
     [  -1.,   -1.,   -1., ...,   -1.,   -2.,   -2.],
     [   2.,    2.,    2., ...,    1.,   -3.,   -3.],
     ...,
     [   0.,    0.,    0., ...,    0.,   -2.,   -2.],
     [  -4.,   -4.,   -4., ...,   -3.,   -6.,   -6.],
     [  -4.,   -4.,   -4., ...,   -3.,   -6.,   -6.]]]], dtype=float32), array([[[[-94., -95., -95., ..., -94., -94., -94.],
     [-95., -95., -95., ..., -95., -96., -95.],
     [-96., -97., -97., ..., -68., -68., -71.],
     ...,
     [-89., -89., -89., ...,  59.,  60.,  53.],
     [-89., -89., -89., ...,  60.,  60.,  53.],
     [-91., -91., -91., ...,  51.,  51.,  46.]],

    [[  0.,   0.,   0., ...,  -1.,  -1.,  -1.],
     [  0.,   0.,   0., ...,  -1.,  -1.,  -1.],
     [ -1.,  -1.,  -1., ...,  -1.,  -3.,  -3.],
     ...,
     [  1.,   1.,   0., ...,  -2.,  -2.,  -2.],
     [ -4.,  -4.,  -4., ...,  -4.,  -7.,  -7.],
     [ -4.,  -4.,  -4., ...,  -4.,  -7.,  -7.]],

    [[  0.,   0.,   0., ...,  -1.,  -1.,  -1.],
     [  0.,   0.,   0., ...,  -1.,  -1.,  -1.],
     [  0.,   0.,   0., ...,   0.,  -2.,  -2.],
     ...,
     [  0.,   0.,  -1., ...,  -2.,  -2.,  -2.],
     [ -4.,  -4.,  -4., ...,  -5.,  -8.,  -8.],
     [ -4.,  -4.,  -4., ...,  -5.,  -8.,  -8.]]]], dtype=float32), array([[[[-94., -95., -94., ..., -94., -96., -95.],
     [-95., -95., -96., ..., -96., -95., -95.],
     [-74., -86., -84., ..., -69., -69., -72.],
     ...,
     [-90., -91., -91., ...,  53.,  53.,  47.],
     [-89., -90., -90., ...,  53.,  52.,  46.],
     [-91., -92., -93., ...,  44.,  44.,  40.]],

    [[  1.,   1.,   2., ...,   0.,  -3.,  -3.],
     [  1.,   1.,   2., ...,   0.,  -3.,  -3.],
     [ -5.,  -5.,  -5., ...,   0.,  -2.,  -2.],
     ...,
     [  2.,   2.,   2., ...,   2.,   0.,   0.],
     [ -3.,  -3.,  -3., ...,  -2.,  -5.,  -5.],
     [ -3.,  -3.,  -3., ...,  -2.,  -5.,  -5.]],

    [[ -2.,  -2.,  -1., ...,   2.,  -1.,  -1.],
     [ -2.,  -2.,  -1., ...,   2.,  -1.,  -1.],
     [  0.,   0.,   0., ...,   0.,  -2.,  -2.],
     ...,
     [  0.,   0.,   0., ...,  -3.,  -4.,  -4.],
     [ -4.,  -4.,  -4., ...,  -7.,  -9.,  -9.],
     [ -4.,  -4.,  -4., ...,  -7.,  -9.,  -9.]]]], dtype=float32), array([[[[-95., -95., -95., ..., -95., -95., -95.],
     [-94., -94., -94., ..., -94., -95., -95.],
     [-89., -89., -89., ..., -74., -73., -75.],
     ...,
     [-96., -96., -96., ...,  49.,  49.,  45.],
     [-97., -97., -97., ...,  48.,  48.,  44.],
     [-97., -97., -96., ...,  41.,  42.,  38.]],

    [[  0.,   0.,   0., ...,  -1.,  -1.,  -1.],
     [  0.,   0.,   0., ...,  -1.,  -1.,  -1.],
     [ -2.,  -2.,  -2., ...,  -1.,  -3.,  -3.],
     ...,
     [  1.,   1.,   1., ...,   1.,  -1.,  -1.],
     [ -3.,  -3.,  -3., ...,  -2.,  -5.,  -5.],
     [ -3.,  -3.,  -3., ...,  -2.,  -5.,  -5.]],

    [[  1.,   1.,   0., ...,  -1.,  -1.,  -1.],
     [  1.,   1.,   0., ...,  -1.,  -1.,  -1.],
     [  4.,   4.,   2., ...,   2.,   0.,   0.],
     ...,
     [  2.,   2.,   2., ...,  -2.,  -3.,  -3.],
     [ -2.,  -2.,  -2., ...,  -4.,  -8.,  -8.],
     [ -2.,  -2.,  -2., ...,  -4.,  -8.,  -8.]]]], dtype=float32), array([[[[ -95.,  -95.,  -95., ...,  -94.,  -94.,  -94.],
     [ -93.,  -94.,  -95., ...,  -95.,  -95.,  -95.],
     [ -94.,  -91.,  -87., ...,  -77.,  -77.,  -79.],
     ...,
     [ -95.,  -90.,  -81., ...,   37.,   37.,   33.],
     [ -96.,  -91.,  -82., ...,   35.,   35.,   32.],
     [-100.,  -97.,  -89., ...,   28.,   29.,   25.]],

    [[   0.,    0.,    0., ...,   -1.,   -2.,   -2.],
     [   0.,    0.,    0., ...,   -1.,   -2.,   -2.],
     [  -2.,   -2.,   -2., ...,   -3.,   -5.,   -5.],
     ...,
     [  -7.,   -7.,   -9., ...,    1.,   -1.,   -1.],
     [  -9.,   -9.,  -12., ...,   -2.,   -5.,   -5.],
     [  -9.,   -9.,  -12., ...,   -2.,   -5.,   -5.]],

    [[   0.,    0.,    0., ...,    0.,   -2.,   -2.],
     [   0.,    0.,    0., ...,    0.,   -2.,   -2.],
     [  11.,   11.,   11., ...,    1.,   -1.,   -1.],
     ...,
     [  15.,   15.,   28., ...,   -1.,   -3.,   -3.],
     [  12.,   12.,   23., ...,   -5.,   -8.,   -8.],
     [  12.,   12.,   23., ...,   -5.,   -8.,   -8.]]]], dtype=float32), array([[[[-94., -95., -95., ..., -95., -95., -94.],
     [-95., -95., -95., ..., -94., -94., -94.],
     [-95., -95., -94., ..., -63., -63., -67.],
     ...,
     [-94., -94., -93., ...,  52.,  52.,  48.],
     [-94., -94., -94., ...,  52.,  52.,  47.],
     [-94., -94., -94., ...,  43.,  44.,  41.]],

    [[  0.,   0.,   0., ...,  -1.,  -2.,  -2.],
     [  0.,   0.,   0., ...,  -1.,  -2.,  -2.],
     [ -1.,  -1.,  -1., ...,   0.,  -1.,  -1.],
     ...,
     [  0.,   0.,  -1., ...,   1.,   0.,   0.],
     [ -4.,  -4.,  -4., ...,  -2.,  -5.,  -5.],
     [ -4.,  -4.,  -4., ...,  -2.,  -5.,  -5.]],

    [[  0.,   0.,   0., ...,   0.,  -1.,  -1.],
     [  0.,   0.,   0., ...,   0.,  -1.,  -1.],
     [  0.,   0.,   0., ...,   3.,   0.,   0.],
     ...,
     [  0.,   0.,   0., ...,  -4.,  -4.,  -4.],
     [ -4.,  -4.,  -3., ...,  -7.,  -9.,  -9.],
     [ -4.,  -4.,  -3., ...,  -7.,  -9.,  -9.]]]], dtype=float32), array([[[[-94., -95., -96., ..., -94., -94., -94.],
     [-95., -96., -95., ..., -96., -96., -96.],
     [-68., -71., -87., ..., -66., -66., -69.],
     ...,
     [-94., -94., -94., ...,  48.,  50.,  47.],
     [-93., -93., -93., ...,  47.,  48.,  45.],
     [-94., -94., -93., ...,  41.,  41.,  38.]],

    [[ -3.,  -3.,   0., ...,   0.,  -1.,  -1.],
     [ -3.,  -3.,   0., ...,   0.,  -1.,  -1.],
     [ -6.,  -6.,  -3., ...,  -2.,  -3.,  -3.],
     ...,
     [ -1.,  -1.,   0., ...,   1.,   0.,   0.],
     [ -5.,  -5.,  -5., ...,  -2.,  -5.,  -5.],
     [ -5.,  -5.,  -5., ...,  -2.,  -5.,  -5.]],

    [[  0.,   0.,   0., ...,   0.,   0.,   0.],
     [  0.,   0.,   0., ...,   0.,   0.,   0.],
     [  2.,   2.,   2., ...,   1.,  -1.,  -1.],
     ...,
     [  0.,   0.,   0., ...,  -5.,  -5.,  -5.],
     [ -4.,  -4.,  -4., ...,  -7., -10., -10.],
     [ -4.,  -4.,  -4., ...,  -7., -10., -10.]]]], dtype=float32), array([[[[-94., -94., -95., ..., -96., -96., -96.],
     [-95., -95., -95., ..., -95., -95., -95.],
     [-94., -94., -94., ..., -94., -94., -94.],
     ...,
     [-90., -86., -83., ...,  69.,  69.,  69.],
     [-91., -85., -80., ...,  69.,  69.,  69.],
     [-91., -87., -83., ...,  62.,  62.,  62.]],

    [[ -2.,  -2.,  -1., ...,   1.,   1.,   1.],
     [ -2.,  -2.,  -1., ...,   1.,   1.,   1.],
     [ -2.,  -2.,  -2., ...,  -3.,  -3.,  -3.],
     ...,
     [ -3.,  -3.,  -2., ...,   0.,   0.,   0.],
     [ -4.,  -4.,  -4., ...,  -4.,  -4.,  -4.],
     [ -4.,  -4.,  -4., ...,  -4.,  -4.,  -4.]],

    [[  0.,   0.,   0., ...,  -2.,  -2.,  -2.],
     [  0.,   0.,   0., ...,  -2.,  -2.,  -2.],
     [  1.,   1.,   1., ...,   4.,   4.,   4.],
     ...,
     [ -1.,  -1.,  -1., ...,  -1.,  -1.,  -1.],
     [ -4.,  -4.,  -5., ...,  -6.,  -6.,  -6.],
     [ -4.,  -4.,  -5., ...,  -6.,  -6.,  -6.]]]], dtype=float32), array([[[[-95., -95., -95., ..., -95., -96., -96.],
     [-95., -95., -95., ..., -96., -96., -96.],
     [-95., -94., -94., ..., -96., -96., -96.],
     ...,
     [-85., -84., -83., ...,  70.,  73.,  76.],
     [-84., -84., -84., ...,  73.,  75.,  77.],
     [-86., -86., -86., ...,  62.,  64.,  67.]],

    [[ -1.,  -1.,  -1., ...,  -1.,  -1.,  -1.],
     [ -1.,  -1.,  -1., ...,  -1.,  -1.,  -1.],
     [  0.,   0.,   0., ...,  -2.,  -2.,  -2.],
     ...,
     [ -1.,  -1.,  -1., ...,   1.,   1.,   1.],
     [ -3.,  -3.,  -2., ...,  -4.,  -4.,  -4.],
     [ -3.,  -3.,  -2., ...,  -4.,  -4.,  -4.]],

    [[  0.,   0.,   0., ...,   0.,   0.,   0.],
     [  0.,   0.,   0., ...,   0.,   0.,   0.],
     [ -1.,  -1.,  -1., ...,   1.,   1.,   1.],
     ...,
     [ -1.,  -1.,  -1., ...,  -1.,  -1.,  -1.],
     [ -4.,  -4.,  -4., ...,  -7.,  -7.,  -7.],
     [ -4.,  -4.,  -4., ...,  -7.,  -7.,  -7.]]]], dtype=float32), array([[[[-94., -94., -94., ..., -94., -94., -94.],
     [-94., -94., -94., ..., -94., -94., -94.],
     [-94., -94., -94., ..., -94., -94., -94.],
     ...,
     [-82., -81., -82., ...,  63.,  63.,  63.],
     [-83., -82., -83., ...,  63.,  63.,  63.],
     [-85., -85., -85., ...,  56.,  56.,  56.]],

    [[  0.,   0.,   0., ...,   1.,   1.,   1.],
     [  0.,   0.,   0., ...,   1.,   1.,   1.],
     [  0.,   0.,   0., ...,   0.,   0.,   0.],
     ...,
     [  2.,   2.,   0., ...,   2.,   2.,   2.],
     [ -2.,  -2.,  -2., ...,  -3.,  -3.,  -3.],
     [ -2.,  -2.,  -2., ...,  -3.,  -3.,  -3.]],

    [[  0.,   0.,   0., ...,  -1.,  -1.,  -1.],
     [  0.,   0.,   0., ...,  -1.,  -1.,  -1.],
     [ -1.,  -1.,  -1., ...,   2.,   1.,   1.],
     ...,
     [ -1.,  -1.,  -1., ...,   0.,   0.,   0.],
     [ -5.,  -5.,  -5., ...,  -6.,  -6.,  -6.],
     [ -5.,  -5.,  -5., ...,  -6.,  -6.,  -6.]]]], dtype=float32), array([[[[-94., -94., -94., ..., -95., -95., -95.],
     [-94., -94., -94., ..., -95., -95., -95.],
     [-94., -94., -94., ..., -95., -95., -95.],
     ...,
     [-83., -84., -84., ...,  63.,  62.,  62.],
     [-84., -84., -84., ...,  64.,  62.,  62.],
     [-86., -86., -86., ...,  55.,  54.,  53.]],

    [[  1.,   1.,   1., ...,   2.,   2.,   2.],
     [  1.,   1.,   1., ...,   2.,   2.,   2.],
     [  1.,   1.,   1., ...,   0.,   0.,   0.],
     ...,
     [ -2.,  -2.,  -1., ...,   2.,   2.,   2.],
     [ -4.,  -4.,  -4., ...,  -3.,  -3.,  -3.],
     [ -4.,  -4.,  -4., ...,  -3.,  -3.,  -3.]],

    [[ -1.,  -1.,  -1., ...,   0.,   0.,   0.],
     [ -1.,  -1.,  -1., ...,   0.,   0.,   0.],
     [ -1.,  -1.,  -1., ...,   1.,   1.,   1.],
     ...,
     [ -1.,  -1.,  -1., ...,   0.,   0.,   0.],
     [ -4.,  -4.,  -4., ...,  -6.,  -6.,  -6.],
     [ -4.,  -4.,  -4., ...,  -6.,  -6.,  -6.]]]], dtype=float32), array([[[[-94., -94., -94., ..., -94., -94., -95.],
     [-94., -94., -94., ..., -94., -94., -93.],
     [-94., -94., -94., ..., -95., -94., -94.],
     ...,
     [-87., -87., -87., ..., -72., -74., -74.],
     [-87., -87., -87., ..., -72., -73., -74.],
     [-89., -89., -89., ..., -75., -77., -79.]],

    [[  0.,   0.,   0., ...,  -3.,  -3.,  -3.],
     [  0.,   0.,   0., ...,  -3.,  -3.,  -3.],
     [  1.,   1.,   1., ...,  -3.,  -3.,  -3.],
     ...,
     [  1.,   1.,   1., ...,   2.,   2.,   2.],
     [ -4.,  -4.,  -4., ...,  -3.,  -3.,  -3.],
     [ -4.,  -4.,  -4., ...,  -3.,  -3.,  -3.]],

    [[ -1.,  -1.,  -1., ...,  -1.,  -1.,  -1.],
     [ -1.,  -1.,  -1., ...,  -1.,  -1.,  -1.],
     [ -1.,  -1.,  -1., ...,   2.,   1.,   1.],
     ...,
     [ -1.,  -1.,  -1., ...,   0.,   0.,   0.],
     [ -4.,  -4.,  -4., ...,  -6.,  -6.,  -6.],
     [ -4.,  -4.,  -4., ...,  -6.,  -6.,  -6.]]]], dtype=float32), array([[[[-95., -95., -95., ..., -94., -94., -94.],
     [-94., -94., -94., ..., -95., -95., -95.],
     [-95., -95., -94., ..., -95., -95., -95.],
     ...,
     [-86., -85., -85., ...,  54.,  54.,  54.],
     [-86., -86., -85., ...,  54.,  54.,  54.],
     [-88., -88., -88., ...,  45.,  45.,  45.]],

    [[  1.,   1.,   1., ...,  -1.,  -1.,  -1.],
     [  1.,   1.,   1., ...,  -1.,  -1.,  -1.],
     [  1.,   1.,   1., ...,  -2.,  -2.,  -2.],
     ...,
     [ -1.,  -1.,   0., ...,   0.,   0.,   0.],
     [ -3.,  -3.,  -2., ...,  -4.,  -4.,  -4.],
     [ -3.,  -3.,  -2., ...,  -4.,  -4.,  -4.]],

    [[ -3.,  -3.,  -2., ...,  -1.,  -1.,  -1.],
     [ -3.,  -3.,  -2., ...,  -1.,  -1.,  -1.],
     [ -1.,  -1.,   0., ...,   1.,   1.,   1.],
     ...,
     [ -1.,  -1.,  -1., ...,  -1.,  -1.,  -1.],
     [ -4.,  -4.,  -4., ...,  -6.,  -6.,  -6.],
     [ -4.,  -4.,  -4., ...,  -6.,  -6.,  -6.]]]], dtype=float32), array([[[[-95., -96., -96., ..., -96., -96., -96.],
     [-94., -95., -96., ..., -96., -96., -96.],
     [-94., -94., -95., ..., -96., -96., -96.],
     ...,
     [-81., -80., -80., ...,  66.,  59.,  51.],
     [-82., -81., -82., ...,  70.,  67.,  60.],
     [-85., -84., -85., ...,  64.,  63.,  62.]],

    [[  2.,   2.,   2., ...,  -1.,  -1.,  -1.],
     [  2.,   2.,   2., ...,  -1.,  -1.,  -1.],
     [  2.,   2.,   2., ...,  -4.,  -4.,  -4.],
     ...,
     [  1.,   1.,   1., ...,   0.,   0.,   0.],
     [ -2.,  -2.,  -2., ...,  -4.,  -4.,  -4.],
     [ -2.,  -2.,  -2., ...,  -4.,  -4.,  -4.]],

    [[ -1.,  -1.,   0., ...,  -1.,  -1.,  -1.],
     [ -1.,  -1.,   0., ...,  -1.,  -1.,  -1.],
     [ -1.,  -1.,   0., ...,   1.,   0.,   0.],
     ...,
     [ -2.,  -2.,  -2., ...,   0.,   0.,   0.],
     [ -6.,  -6.,  -6., ...,  -5.,  -5.,  -5.],
     [ -6.,  -6.,  -6., ...,  -5.,  -5.,  -5.]]]], dtype=float32), array([[[[-94., -94., -94., ..., -94., -94., -94.],
     [-94., -94., -94., ..., -94., -94., -94.],
     [-94., -94., -94., ..., -93., -93., -93.],
     ...,
     [-89., -89., -89., ..., -81., -80., -79.],
     [-89., -89., -89., ..., -81., -80., -79.],
     [-90., -90., -90., ..., -88., -88., -88.]],

    [[  0.,   0.,   0., ...,  -1.,  -1.,  -1.],
     [  0.,   0.,   0., ...,  -1.,  -1.,  -1.],
     [  0.,   0.,   0., ...,  -2.,  -2.,  -2.],
     ...,
     [  1.,   1.,   1., ...,   2.,   2.,   2.],
     [ -4.,  -4.,  -4., ...,   1.,   1.,   1.],
     [ -4.,  -4.,  -4., ...,   1.,   1.,   1.]],

    [[  0.,   0.,   0., ...,   0.,   0.,   0.],
     [  0.,   0.,   0., ...,   0.,   0.,   0.],
     [  0.,   0.,   0., ...,   1.,   1.,   1.],
     ...,
     [ -1.,  -1.,  -1., ...,  -1.,  -1.,  -1.],
     [ -4.,  -4.,  -4., ...,  -4.,  -4.,  -4.],
     [ -4.,  -4.,  -4., ...,  -4.,  -4.,  -4.]]]], dtype=float32), array([[[[-95., -95., -95., ..., -94., -94., -94.],
     [-94., -94., -95., ..., -94., -94., -94.],
     [-94., -94., -94., ..., -94., -94., -94.],
     ...,
     [-97., -97., -97., ...,  71.,  70.,  69.],
     [-96., -96., -96., ...,  71.,  70.,  69.],
     [-95., -95., -95., ...,  63.,  62.,  61.]],

    [[ -3.,  -3.,  -3., ...,   0.,   0.,   0.],
     [ -3.,  -3.,  -3., ...,   0.,   0.,   0.],
     [ -1.,  -1.,  -1., ...,  -1.,  -1.,  -1.],
     ...,
     [  1.,   1.,   1., ...,   0.,   0.,   0.],
     [ -4.,  -4.,  -4., ...,  -4.,  -4.,  -4.],
     [ -4.,  -4.,  -4., ...,  -4.,  -4.,  -4.]],

    [[  0.,   0.,   0., ...,  -1.,  -1.,  -1.],
     [  0.,   0.,   0., ...,  -1.,  -1.,  -1.],
     [  0.,   0.,   0., ...,   2.,   2.,   2.],
     ...,
     [ -1.,  -1.,  -1., ...,   0.,   0.,   0.],
     [ -4.,  -4.,  -4., ...,  -4.,  -4.,  -4.],
     [ -4.,  -4.,  -4., ...,  -4.,  -4.,  -4.]]]], dtype=float32), array([[[[-93., -93., -93., ..., -95., -95., -95.],
     [-94., -94., -94., ..., -94., -94., -94.],
     [-93., -93., -93., ..., -96., -96., -96.],
     ...,
     [-81., -81., -81., ...,  49.,  53.,  57.],
     [-83., -83., -83., ...,  51.,  57.,  60.],
     [-85., -85., -85., ...,  45.,  50.,  53.]],

    [[  0.,   0.,   0., ...,  -2.,  -2.,  -2.],
     [  0.,   0.,   0., ...,  -2.,  -2.,  -2.],
     [ -1.,  -1.,   0., ...,  -4.,  -4.,  -4.],
     ...,
     [ -2.,  -2.,  -2., ...,  -1.,  -2.,  -2.],
     [ -3.,  -3.,  -3., ...,  -6.,  -6.,  -6.],
     [ -3.,  -3.,  -3., ...,  -6.,  -6.,  -6.]],

    [[  0.,   0.,   0., ...,  -1.,  -1.,  -1.],
     [  0.,   0.,   0., ...,  -1.,  -1.,  -1.],
     [  1.,   1.,   1., ...,   2.,   1.,   1.],
     ...,
     [ -1.,  -1.,  -1., ...,   1.,   2.,   2.],
     [ -4.,  -4.,  -4., ...,  -3.,  -2.,  -2.],
     [ -4.,  -4.,  -4., ...,  -3.,  -2.,  -2.]]]], dtype=float32), array([[[[-94., -94., -95., ..., -94., -94., -94.],
     [-94., -94., -94., ..., -95., -96., -95.],
     [-94., -94., -95., ..., -94., -94., -94.],
     ...,
     [-91., -90., -88., ...,  63.,  60.,  58.],
     [-88., -88., -87., ...,  66.,  65.,  63.],
     [-89., -89., -88., ...,  59.,  59.,  60.]],

    [[ -2.,  -2.,  -2., ...,  -1.,   0.,   0.],
     [ -2.,  -2.,  -2., ...,  -1.,   0.,   0.],
     [ -2.,  -2.,  -2., ...,  -3.,  -3.,  -3.],
     ...,
     [ -2.,  -2.,  -1., ...,  -2.,  -2.,  -2.],
     [ -4.,  -4.,  -3., ...,  -7.,  -6.,  -6.],
     [ -4.,  -4.,  -3., ...,  -7.,  -6.,  -6.]],

    [[  0.,   0.,   0., ...,  -1.,  -2.,  -2.],
     [  0.,   0.,   0., ...,  -1.,  -2.,  -2.],
     [  1.,   1.,   1., ...,   3.,   2.,   2.],
     ...,
     [ -2.,  -2.,  -1., ...,   2.,   2.,   2.],
     [ -4.,  -4.,  -4., ...,  -4.,  -4.,  -4.],
     [ -4.,  -4.,  -4., ...,  -4.,  -4.,  -4.]]]], dtype=float32), array([[[[-95., -96., -94., ..., -94., -94., -94.],
     [-94., -95., -94., ..., -95., -95., -95.],
     [-91., -91., -91., ..., -95., -95., -95.],
     ...,
     [-95., -95., -95., ...,  58.,  57.,  57.],
     [-95., -95., -95., ...,  58.,  58.,  58.],
     [-95., -95., -95., ...,  50.,  50.,  50.]],

    [[  2.,   2.,   2., ...,  -2.,  -1.,  -1.],
     [  2.,   2.,   2., ...,  -2.,  -1.,  -1.],
     [ 10.,  10.,  10., ...,  -4.,  -4.,  -4.],
     ...,
     [  1.,   1.,   1., ...,  -2.,  -2.,  -2.],
     [ -3.,  -3.,  -3., ...,  -7.,  -7.,  -7.],
     [ -3.,  -3.,  -3., ...,  -7.,  -7.,  -7.]],

    [[  4.,   4.,   4., ...,   0.,   0.,   0.],
     [  4.,   4.,   4., ...,   0.,   0.,   0.],
     [  4.,   4.,   4., ...,   2.,   2.,   2.],
     ...,
     [ -1.,  -1.,  -1., ...,   0.,   0.,   0.],
     [ -4.,  -4.,  -4., ...,  -2.,  -2.,  -2.],
     [ -4.,  -4.,  -4., ...,  -2.,  -2.,  -2.]]]], dtype=float32), array([[[[-95., -95., -95., ..., -95., -95., -95.],
     [-96., -96., -96., ..., -95., -95., -95.],
     [-95., -95., -95., ..., -93., -92., -93.],
     ...,
     [-94., -94., -94., ...,  65.,  66.,  65.],
     [-94., -94., -94., ...,  65.,  66.,  66.],
     [-94., -94., -94., ...,  57.,  56.,  57.]],

    [[  0.,   0.,   0., ...,  -1.,  -1.,  -1.],
     [  0.,   0.,   0., ...,  -1.,  -1.,  -1.],
     [  0.,   0.,   0., ...,  -4.,  -4.,  -4.],
     ...,
     [  1.,   1.,   1., ...,  -1.,  -1.,  -1.],
     [ -4.,  -4.,  -4., ...,  -6.,  -6.,  -6.],
     [ -4.,  -4.,  -4., ...,  -6.,  -6.,  -6.]],

    [[  0.,   0.,   0., ...,  -1.,   0.,   0.],
     [  0.,   0.,   0., ...,  -1.,   0.,   0.],
     [  0.,   0.,   0., ...,  11.,  10.,  10.],
     ...,
     [ -1.,  -1.,  -1., ...,   1.,   1.,   1.],
     [ -3.,  -3.,  -3., ...,  -4.,  -4.,  -4.],
     [ -3.,  -3.,  -3., ...,  -4.,  -4.,  -4.]]]], dtype=float32), array([[[[-93., -93., -93., ..., -94., -94., -94.],
     [-93., -93., -93., ..., -94., -94., -94.],
     [-93., -93., -93., ..., -92., -92., -92.],
     ...,
     [-86., -86., -86., ...,  46.,  46.,  48.],
     [-87., -87., -87., ...,  46.,  48.,  48.],
     [-90., -90., -90., ...,  37.,  40.,  41.]],

    [[  0.,   0.,   0., ...,   0.,   0.,   0.],
     [  0.,   0.,   0., ...,   0.,   0.,   0.],
     [  0.,   0.,   0., ...,  -5.,  -5.,  -5.],
     ...,
     [ -2.,  -2.,  -2., ...,  -1.,  -1.,  -1.],
     [ -3.,  -3.,  -3., ...,  -6.,  -6.,  -6.],
     [ -3.,  -3.,  -3., ...,  -6.,  -6.,  -6.]],

    [[  0.,   0.,   0., ...,   1.,   0.,   0.],
     [  0.,   0.,   0., ...,   1.,   0.,   0.],
     [  0.,   0.,   0., ...,  14.,  14.,  14.],
     ...,
     [ -1.,  -1.,  -1., ...,   1.,   1.,   1.],
     [ -4.,  -4.,  -4., ...,  -4.,  -4.,  -4.],
     [ -4.,  -4.,  -4., ...,  -4.,  -4.,  -4.]]]], dtype=float32), array([[[[124., 115.,  59., ...,   8.,   6.,  -4.],
     [120.,  57., -76., ...,   8.,   6.,  -4.],
     [ 87., -52., -98., ...,  10.,   9.,  -3.],
     ...,
     [-75., -82., -82., ...,  51.,  51.,  49.],
     [-74., -82., -82., ...,  49.,  50.,  50.],
     [-79., -85., -85., ...,  40.,  41.,  40.]],

    [[ -2.,  -2.,  -2., ...,  -3.,  -3.,  -3.],
     [ -2.,  -2.,  -2., ...,  -3.,  -3.,  -3.],
     [ -2.,  -2.,  -2., ...,  -1.,  -2.,  -2.],
     ...,
     [  2.,   2.,   2., ...,  -1.,  -3.,  -3.],
     [ -4.,  -4.,  -4., ...,  -6.,  -7.,  -7.],
     [ -4.,  -4.,  -4., ...,  -6.,  -7.,  -7.]],

    [[  0.,   0.,   5., ...,   6.,   4.,   4.],
     [  0.,   0.,   5., ...,   6.,   4.,   4.],
     [  2.,   2.,   5., ...,   7.,   4.,   4.],
     ...,
     [  0.,   0.,   0., ...,   1.,  -1.,  -1.],
     [ -6.,  -6.,  -6., ...,  -4.,  -6.,  -6.],
     [ -6.,  -6.,  -6., ...,  -4.,  -6.,  -6.]]]], dtype=float32), array([[[[122., 117.,  60., ..., -11.,  -5.,  -6.],
     [122.,  68., -45., ..., -14.,  -9.,  -9.],
     [ 88., -23., -60., ..., -17., -12., -12.],
     ...,
     [-80., -86., -87., ...,  71.,  70.,  66.],
     [-79., -86., -87., ...,  70.,  70.,  67.],
     [-82., -89., -89., ...,  63.,  62.,  57.]],

    [[ -1.,  -1.,  -8., ...,  -7.,  -9.,  -9.],
     [ -1.,  -1.,  -8., ...,  -7.,  -9.,  -9.],
     [ -5.,  -5., -10., ...,  -7.,  -9.,  -9.],
     ...,
     [  0.,   0.,   0., ...,   0.,  -2.,  -2.],
     [ -4.,  -4.,  -4., ...,  -6.,  -7.,  -7.],
     [ -4.,  -4.,  -4., ...,  -6.,  -7.,  -7.]],

    [[ -1.,  -1.,   9., ...,   2.,   0.,   0.],
     [ -1.,  -1.,   9., ...,   2.,   0.,   0.],
     [  3.,   3.,  11., ...,   2.,   1.,   1.],
     ...,
     [  0.,   0.,   0., ...,   0.,  -2.,  -2.],
     [ -6.,  -6.,  -6., ...,  -5.,  -7.,  -7.],
     [ -6.,  -6.,  -6., ...,  -5.,  -7.,  -7.]]]], dtype=float32), array([[[[124., 114.,  67., ..., -73., -71., -69.],
     [119.,  73., -26., ..., -71., -68., -69.],
     [ 93.,  -8., -42., ..., -69., -66., -67.],
     ...,
     [-80., -87., -88., ...,  71.,  71.,  65.],
     [-80., -87., -88., ...,  69.,  69.,  65.],
     [-84., -89., -90., ...,  62.,  62.,  55.]],

    [[  1.,   1.,  -8., ...,  -4.,  -5.,  -5.],
     [  1.,   1.,  -8., ...,  -4.,  -5.,  -5.],
     [ -2.,  -2., -10., ...,  -4.,  -5.,  -5.],
     ...,
     [  0.,   0.,   0., ...,  -1.,  -3.,  -3.],
     [ -4.,  -4.,  -4., ...,  -6.,  -8.,  -8.],
     [ -4.,  -4.,  -4., ...,  -6.,  -8.,  -8.]],

    [[ -2.,  -2.,   8., ...,   1.,  -1.,  -1.],
     [ -2.,  -2.,   8., ...,   1.,  -1.,  -1.],
     [  1.,   1.,   9., ...,   1.,  -1.,  -1.],
     ...,
     [  0.,   0.,   0., ...,   1.,  -1.,  -1.],
     [ -6.,  -6.,  -6., ...,  -4.,  -6.,  -6.],
     [ -6.,  -6.,  -6., ...,  -4.,  -6.,  -6.]]]], dtype=float32), array([[[[126., 116.,  54., ..., -29., -29., -35.],
     [120.,  65., -69., ..., -28., -28., -34.],
     [ 88., -45., -87., ..., -28., -29., -34.],
     ...,
     [-81., -88., -89., ...,  59.,  60.,  57.],
     [-81., -87., -88., ...,  58.,  59.,  58.],
     [-85., -90., -90., ...,  51.,  50.,  47.]],

    [[  0.,   0.,   0., ...,  -1.,  -3.,  -3.],
     [  0.,   0.,   0., ...,  -1.,  -3.,  -3.],
     [  1.,   1.,   0., ...,   0.,  -3.,  -3.],
     ...,
     [  0.,   0.,   0., ...,  -1.,  -3.,  -3.],
     [ -4.,  -4.,  -4., ...,  -5.,  -7.,  -7.],
     [ -4.,  -4.,  -4., ...,  -5.,  -7.,  -7.]],

    [[ -1.,  -1.,  -1., ...,   4.,   2.,   2.],
     [ -1.,  -1.,  -1., ...,   4.,   2.,   2.],
     [  1.,   1.,   1., ...,   4.,   2.,   2.],
     ...,
     [  0.,   0.,   0., ...,   1.,  -1.,  -1.],
     [ -5.,  -5.,  -5., ...,  -4.,  -6.,  -6.],
     [ -5.,  -5.,  -5., ...,  -4.,  -6.,  -6.]]]], dtype=float32), array([[[[125., 118.,  57., ...,  48.,  50.,  48.],
     [121.,  59., -71., ...,  59.,  59.,  55.],
     [ 87., -47., -88., ...,  57.,  59.,  59.],
     ...,
     [-79., -84., -84., ...,  63.,  64.,  61.],
     [-79., -84., -84., ...,  62.,  62.,  60.],
     [-83., -88., -87., ...,  52.,  51.,  46.]],

    [[  0.,   0.,   0., ...,   0.,  -2.,  -2.],
     [  0.,   0.,   0., ...,   0.,  -2.,  -2.],
     [  0.,   0.,   0., ...,  -1.,  -3.,  -3.],
     ...,
     [  0.,   0.,   0., ...,  -1.,  -3.,  -3.],
     [ -4.,  -4.,  -4., ...,  -5.,  -7.,  -7.],
     [ -4.,  -4.,  -4., ...,  -5.,  -7.,  -7.]],

    [[  0.,   0.,   0., ...,   5.,   2.,   2.],
     [  0.,   0.,   0., ...,   5.,   2.,   2.],
     [  0.,   0.,   0., ...,   5.,   3.,   3.],
     ...,
     [  0.,   0.,   0., ...,   1.,  -1.,  -1.],
     [ -4.,  -4.,  -4., ...,  -4.,  -6.,  -6.],
     [ -4.,  -4.,  -4., ...,  -4.,  -6.,  -6.]]]], dtype=float32), array([[[[124., 117.,  57., ...,  50.,  52.,  45.],
     [121.,  67., -61., ...,  51.,  52.,  45.],
     [ 91., -30., -76., ...,  61.,  58.,  49.],
     ...,
     [-80., -87., -88., ...,  63.,  63.,  57.],
     [-80., -87., -88., ...,  63.,  63.,  56.],
     [-84., -89., -91., ...,  54.,  53.,  44.]],

    [[ -4.,  -4.,  -4., ...,   0.,  -2.,  -2.],
     [ -4.,  -4.,  -4., ...,   0.,  -2.,  -2.],
     [ -5.,  -5.,  -5., ...,  -1.,  -3.,  -3.],
     ...,
     [  0.,   0.,   0., ...,   0.,  -2.,  -2.],
     [ -4.,  -4.,  -4., ...,  -6.,  -8.,  -8.],
     [ -4.,  -4.,  -4., ...,  -6.,  -8.,  -8.]],

    [[ -1.,  -1.,   5., ...,   7.,   3.,   3.],
     [ -1.,  -1.,   5., ...,   7.,   3.,   3.],
     [  4.,   4.,   9., ...,   5.,   3.,   3.],
     ...,
     [  0.,   0.,   0., ...,   0.,  -2.,  -2.],
     [ -5.,  -5.,  -5., ...,  -5.,  -7.,  -7.],
     [ -5.,  -5.,  -5., ...,  -5.,  -7.,  -7.]]]], dtype=float32), array([[[[125., 116.,  58., ...,  47.,  48.,  45.],
     [123.,  63., -68., ...,  48.,  49.,  48.],
     [ 89., -43., -82., ...,  53.,  53.,  50.],
     ...,
     [-81., -88., -88., ...,  50.,  50.,  44.],
     [-81., -88., -88., ...,  49.,  49.,  44.],
     [-83., -90., -89., ...,  41.,  41.,  39.]],

    [[  0.,   0.,   0., ...,   1.,  -2.,  -2.],
     [  0.,   0.,   0., ...,   1.,  -2.,  -2.],
     [  0.,   0.,   0., ...,   1.,  -2.,  -2.],
     ...,
     [  0.,   0.,   0., ...,  -1.,  -3.,  -3.],
     [ -4.,  -4.,  -4., ...,  -6.,  -8.,  -8.],
     [ -4.,  -4.,  -4., ...,  -6.,  -8.,  -8.]],

    [[  0.,   0.,   0., ...,   5.,   2.,   2.],
     [  0.,   0.,   0., ...,   5.,   2.,   2.],
     [  0.,   0.,   0., ...,   4.,   2.,   2.],
     ...,
     [  0.,   0.,   0., ...,   1.,  -1.,  -1.],
     [ -6.,  -6.,  -6., ...,  -4.,  -6.,  -6.],
     [ -6.,  -6.,  -6., ...,  -4.,  -6.,  -6.]]]], dtype=float32), array([[[[125., 117.,  68., ..., -61., -61., -68.],
     [121.,  71., -33., ..., -61., -61., -65.],
     [ 93., -12., -41., ..., -60., -59., -64.],
     ...,
     [-77., -84., -85., ...,  76.,  76.,  70.],
     [-77., -84., -84., ...,  76.,  76.,  71.],
     [-80., -86., -85., ...,  68.,  68.,  64.]],

    [[  0.,   0.,  -9., ...,  -3.,  -5.,  -5.],
     [  0.,   0.,  -9., ...,  -3.,  -5.,  -5.],
     [ -3.,  -3., -10., ...,  -3.,  -5.,  -5.],
     ...,
     [  0.,   0.,   0., ...,  -1.,  -2.,  -2.],
     [ -4.,  -4.,  -4., ...,  -5.,  -7.,  -7.],
     [ -4.,  -4.,  -4., ...,  -5.,  -7.,  -7.]],

    [[  0.,   0.,   7., ...,   5.,   2.,   2.],
     [  0.,   0.,   7., ...,   5.,   2.,   2.],
     [  5.,   5.,  10., ...,   4.,   2.,   2.],
     ...,
     [  0.,   0.,   0., ...,   2.,   0.,   0.],
     [ -5.,  -5.,  -5., ...,  -4.,  -6.,  -6.],
     [ -5.,  -5.,  -5., ...,  -4.,  -6.,  -6.]]]], dtype=float32), array([[[[124., 115.,  58., ...,  57.,  56.,  52.],
     [121.,  63., -74., ...,  47.,  47.,  43.],
     [ 90., -48., -89., ...,  60.,  60.,  58.],
     ...,
     [-83., -92., -91., ...,  64.,  65.,  60.],
     [-84., -92., -91., ...,  63.,  64.,  60.],
     [-85., -92., -91., ...,  56.,  55.,  48.]],

    [[  1.,   1.,   2., ...,  -2.,  -4.,  -4.],
     [  1.,   1.,   2., ...,  -2.,  -4.,  -4.],
     [  1.,   1.,   1., ...,  -2.,  -4.,  -4.],
     ...,
     [  0.,   0.,   0., ...,  -1.,  -3.,  -3.],
     [ -4.,  -4.,  -4., ...,  -6.,  -7.,  -7.],
     [ -4.,  -4.,  -4., ...,  -6.,  -7.,  -7.]],

    [[  0.,   0.,   0., ...,   4.,   2.,   2.],
     [  0.,   0.,   0., ...,   4.,   2.,   2.],
     [  0.,   0.,   0., ...,   4.,   2.,   2.],
     ...,
     [  0.,   0.,   0., ...,   1.,  -1.,  -1.],
     [ -5.,  -5.,  -5., ...,  -4.,  -6.,  -6.],
     [ -5.,  -5.,  -5., ...,  -4.,  -6.,  -6.]]]], dtype=float32), array([[[[ 125.,  118.,   52., ...,  -96.,  -97.,  -97.],
     [ 122.,   57.,  -84., ...,  -95.,  -96.,  -96.],
     [  85.,  -59., -104., ...,  -96.,  -96.,  -96.],
     ...,
     [ -72.,  -78.,  -79., ...,   75.,   75.,   71.],
     [ -72.,  -78.,  -78., ...,   77.,   77.,   72.],
     [ -76.,  -84.,  -82., ...,   71.,   71.,   63.]],

    [[   0.,    0.,    0., ...,    2.,    1.,    1.],
     [   0.,    0.,    0., ...,    2.,    1.,    1.],
     [   0.,    0.,    0., ...,    0.,   -1.,   -1.],
     ...,
     [  -1.,   -1.,    0., ...,   -1.,   -3.,   -3.],
     [  -5.,   -5.,   -4., ...,   -6.,   -8.,   -8.],
     [  -5.,   -5.,   -4., ...,   -6.,   -8.,   -8.]],

    [[   0.,    0.,    0., ...,   -1.,   -2.,   -2.],
     [   0.,    0.,    0., ...,   -1.,   -2.,   -2.],
     [   0.,    0.,    0., ...,   -1.,   -3.,   -3.],
     ...,
     [   0.,    0.,    0., ...,    1.,   -1.,   -1.],
     [  -6.,   -6.,   -6., ...,   -4.,   -6.,   -6.],
     [  -6.,   -6.,   -6., ...,   -4.,   -6.,   -6.]]]], dtype=float32), array([[[[ 124.,  116.,   53., ...,  -93.,  -94.,  -94.],
     [ 122.,   60.,  -85., ...,  -93.,  -93.,  -94.],
     [  85.,  -58., -106., ...,  -93.,  -93.,  -93.],
     ...,
     [ -72.,  -79.,  -79., ...,   74.,   74.,   69.],
     [ -73.,  -79.,  -79., ...,   75.,   74.,   68.],
     [ -78.,  -83.,  -82., ...,   67.,   67.,   59.]],

    [[   0.,    0.,    0., ...,    5.,    3.,    3.],
     [   0.,    0.,    0., ...,    5.,    3.,    3.],
     [   0.,    0.,    0., ...,    6.,    5.,    5.],
     ...,
     [   0.,    0.,    0., ...,   -1.,   -3.,   -3.],
     [  -4.,   -4.,   -4., ...,   -6.,   -8.,   -8.],
     [  -4.,   -4.,   -4., ...,   -6.,   -8.,   -8.]],

    [[   0.,    0.,    0., ...,    0.,   -2.,   -2.],
     [   0.,    0.,    0., ...,    0.,   -2.,   -2.],
     [   0.,    0.,    0., ...,   -1.,   -2.,   -2.],
     ...,
     [   0.,    0.,    0., ...,    1.,   -1.,   -1.],
     [  -6.,   -6.,   -6., ...,   -4.,   -6.,   -6.],
     [  -6.,   -6.,   -6., ...,   -4.,   -6.,   -6.]]]], dtype=float32), array([[[[115.,  65.,   0., ..., -74., -74., -78.],
     [ 77.,   0., -11., ..., -74., -74., -78.],
     [ 28.,  -7., -12., ..., -74., -74., -78.],
     ...,
     [ 58.,  58.,  59., ...,  67.,  68.,  65.],
     [ 59.,  59.,  60., ...,  67.,  69.,  67.],
     [ 52.,  52.,  52., ...,  61.,  63.,  65.]],

    [[ -6.,  -6., -11., ..., -11., -12., -12.],
     [ -6.,  -6., -11., ..., -11., -12., -12.],
     [-11., -11., -15., ..., -11., -12., -12.],
     ...,
     [ -3.,  -3.,  -3., ...,  -3.,  -3.,  -3.],
     [ -8.,  -8.,  -8., ...,  -7.,  -9.,  -9.],
     [ -8.,  -8.,  -8., ...,  -7.,  -9.,  -9.]],

    [[  2.,   2.,   6., ...,  54.,  51.,  51.],
     [  2.,   2.,   6., ...,  54.,  51.,  51.],
     [  5.,   5.,   8., ...,  54.,  52.,  52.],
     ...,
     [  4.,   4.,   5., ...,   2.,   1.,   1.],
     [ -1.,  -1.,  -1., ...,  -2.,  -4.,  -4.],
     [ -1.,  -1.,  -1., ...,  -2.,  -4.,  -4.]]]], dtype=float32), array([[[[115.,  66.,  -1., ..., -10., -12., -15.],
     [ 79.,   6.,  -8., ...,   9.,   8.,   4.],
     [ 28.,  -2.,  -5., ..., -11., -12., -15.],
     ...,
     [ 63.,  63.,  63., ...,  58.,  58.,  54.],
     [ 62.,  62.,  61., ...,  58.,  58.,  54.],
     [ 54.,  54.,  52., ...,  49.,  49.,  47.]],

    [[ -4.,  -4.,  -6., ..., -11., -12., -12.],
     [ -4.,  -4.,  -6., ..., -11., -12., -12.],
     [ -5.,  -5.,  -7., ..., -11., -12., -12.],
     ...,
     [ -1.,  -1.,  -1., ...,   2.,   0.,   0.],
     [ -5.,  -5.,  -5., ...,  -4.,  -6.,  -6.],
     [ -5.,  -5.,  -5., ...,  -4.,  -6.,  -6.]],

    [[  2.,   2.,   6., ...,   7.,   5.,   5.],
     [  2.,   2.,   6., ...,   7.,   5.,   5.],
     [  5.,   5.,   7., ...,   7.,   6.,   6.],
     ...,
     [  1.,   1.,   1., ...,   0.,  -2.,  -2.],
     [ -5.,  -5.,  -5., ...,  -6.,  -8.,  -8.],
     [ -5.,  -5.,  -5., ...,  -6.,  -8.,  -8.]]]], dtype=float32), array([[[[117.,  79.,  41., ...,  23.,  24.,  21.],
     [ 88.,  46.,  38., ...,  23.,  23.,  20.],
     [ 56.,  42.,  39., ...,  23.,  23.,  21.],
     ...,
     [ 75.,  76.,  76., ...,  99., 100.,  96.],
     [ 76.,  76.,  77., ..., 100., 101.,  97.],
     [ 70.,  71.,  71., ...,  90.,  91.,  89.]],

    [[ -1.,  -1.,  -3., ...,  -3.,  -5.,  -5.],
     [ -1.,  -1.,  -3., ...,  -3.,  -5.,  -5.],
     [ -2.,  -2.,  -3., ...,  -3.,  -5.,  -5.],
     ...,
     [  3.,   3.,   3., ...,   2.,   0.,   0.],
     [ -2.,  -2.,  -2., ...,  -3.,  -5.,  -5.],
     [ -2.,  -2.,  -2., ...,  -3.,  -5.,  -5.]],

    [[ -5.,  -5.,  -9., ..., -13., -13., -13.],
     [ -5.,  -5.,  -9., ..., -13., -13., -13.],
     [ -7.,  -7.,  -9., ..., -13., -13., -13.],
     ...,
     [-16., -16., -16., ..., -13., -14., -14.],
     [-21., -21., -20., ..., -17., -18., -18.],
     [-21., -21., -20., ..., -17., -18., -18.]]]], dtype=float32), array([[[[115.,  81.,  43., ...,   9.,   9.,   5.],
     [ 88.,  46.,  38., ...,   9.,   9.,   5.],
     [ 58.,  41.,  42., ...,  10.,  10.,   5.],
     ...,
     [ 85.,  84.,  84., ...,  97.,  97.,  92.],
     [ 85.,  85.,  84., ...,  96.,  96.,  92.],
     [ 77.,  76.,  74., ...,  88.,  89.,  83.]],

    [[ -3.,  -3.,  -5., ...,  -6.,  -7.,  -7.],
     [ -3.,  -3.,  -5., ...,  -6.,  -7.,  -7.],
     [ -3.,  -3.,  -6., ...,  -6.,  -7.,  -7.],
     ...,
     [  2.,   2.,   2., ...,   0.,  -2.,  -2.],
     [ -4.,  -4.,  -4., ...,  -5.,  -7.,  -7.],
     [ -4.,  -4.,  -4., ...,  -5.,  -7.,  -7.]],

    [[ -1.,  -1.,  -4., ..., -11., -12., -12.],
     [ -1.,  -1.,  -4., ..., -11., -12., -12.],
     [ -2.,  -2.,  -4., ..., -11., -13., -13.],
     ...,
     [ -7.,  -7.,  -7., ...,  -2.,  -5.,  -5.],
     [-13., -13., -13., ...,  -9., -11., -11.],
     [-13., -13., -13., ...,  -9., -11., -11.]]]], dtype=float32), array([[[[115.,  85.,  61., ...,  23.,  23.,  17.],
     [ 89.,  62.,  58., ...,  23.,  23.,  16.],
     [ 67.,  58.,  57., ...,  23.,  23.,  18.],
     ...,
     [ 53.,  53.,  53., ...,  43.,  42.,  39.],
     [ 53.,  53.,  52., ...,  43.,  42.,  38.],
     [ 45.,  45.,  45., ...,  36.,  36.,  31.]],

    [[ -5.,  -5.,  -7., ...,  -7.,  -9.,  -9.],
     [ -5.,  -5.,  -7., ...,  -7.,  -9.,  -9.],
     [ -6.,  -6.,  -7., ...,  -7.,  -9.,  -9.],
     ...,
     [ -1.,  -1.,  -1., ...,  -1.,  -3.,  -3.],
     [ -6.,  -6.,  -6., ...,  -6.,  -7.,  -7.],
     [ -6.,  -6.,  -6., ...,  -6.,  -7.,  -7.]],

    [[  4.,   4.,   8., ...,  10.,   8.,   8.],
     [  4.,   4.,   8., ...,  10.,   8.,   8.],
     [  7.,   7.,   9., ...,  10.,   8.,   8.],
     ...,
     [  1.,   1.,   1., ...,   1.,  -1.,  -1.],
     [ -4.,  -4.,  -4., ...,  -4.,  -5.,  -5.],
     [ -4.,  -4.,  -4., ...,  -4.,  -5.,  -5.]]]], dtype=float32), array([[[[116.,  78.,  43., ...,  21.,  22.,  18.],
     [ 73.,   6.,  37., ...,  20.,  21.,  17.],
     [  6., -20.,  31., ...,  21.,  20.,  16.],
     ...,
     [ 66.,  67.,  67., ...,  56.,  56.,  50.],
     [ 68.,  68.,  68., ...,  55.,  55.,  50.],
     [ 61.,  61.,  61., ...,  46.,  46.,  44.]],

    [[  0.,   0.,  -2., ...,  -8.,  -9.,  -9.],
     [  0.,   0.,  -2., ...,  -8.,  -9.,  -9.],
     [ -1.,  -1.,  -2., ..., -10., -10., -10.],
     ...,
     [  0.,   0.,   0., ...,   0.,  -2.,  -2.],
     [ -6.,  -6.,  -6., ...,  -4.,  -6.,  -6.],
     [ -6.,  -6.,  -6., ...,  -4.,  -6.,  -6.]],

    [[  0.,   0.,   3., ...,   5.,   2.,   2.],
     [  0.,   0.,   3., ...,   5.,   2.,   2.],
     [  2.,   2.,   3., ...,   4.,   3.,   3.],
     ...,
     [ -2.,  -2.,  -2., ...,  -3.,  -5.,  -5.],
     [ -8.,  -8.,  -8., ...,  -9., -10., -10.],
     [ -8.,  -8.,  -8., ...,  -9., -10., -10.]]]], dtype=float32), array([[[[125., 119., 102., ...,  79.,  78.,  80.],
     [113.,  73.,  12., ..., -10., -10.,  -6.],
     [ 60.,   6.,   0., ..., -97., -96., -94.],
     ...,
     [ 56.,  56.,  56., ...,  50.,  52.,  52.],
     [ 55.,  55.,  55., ...,  51.,  52.,  53.],
     [ 55.,  55.,  55., ...,  52.,  52.,  53.]],

    [[  0.,   0.,  -1., ...,  -2.,  -2.,  -2.],
     [  0.,   0.,  -1., ...,  -2.,  -2.,  -2.],
     [ -3.,  -3.,  -4., ...,  -2.,  -2.,  -2.],
     ...,
     [  2.,   2.,   2., ...,   2.,   2.,   2.],
     [  2.,   2.,   2., ...,   2.,   2.,   2.],
     [  2.,   2.,   2., ...,   2.,   2.,   2.]],

    [[  0.,   0.,   2., ...,   3.,   3.,   3.],
     [  0.,   0.,   2., ...,   3.,   3.,   3.],
     [  3.,   3.,   4., ...,   3.,   4.,   4.],
     ...,
     [  0.,   0.,   0., ...,   0.,   0.,   0.],
     [  0.,   0.,   0., ...,   0.,   0.,   0.],
     [  0.,   0.,   0., ...,   0.,   0.,   0.]]]], dtype=float32), array([[[[125., 119.,  99., ...,  82.,  84.,  84.],
     [110.,  69.,  12., ...,   1.,   7.,  10.],
     [ 62.,  10.,   1., ..., -97., -94., -94.],
     ...,
     [ 55.,  55.,  55., ...,  48.,  49.,  50.],
     [ 55.,  55.,  55., ...,  48.,  50.,  51.],
     [ 55.,  55.,  55., ...,  48.,  50.,  52.]],

    [[  0.,   0.,   0., ...,  -2.,  -2.,  -2.],
     [  0.,   0.,   0., ...,  -2.,  -2.,  -2.],
     [ -3.,  -3.,  -3., ...,  -2.,  -2.,  -2.],
     ...,
     [  2.,   2.,   2., ...,   2.,   2.,   2.],
     [  2.,   2.,   2., ...,   2.,   2.,   2.],
     [  2.,   2.,   2., ...,   2.,   2.,   2.]],

    [[ -1.,  -1.,   0., ...,   0.,   0.,   0.],
     [ -1.,  -1.,   0., ...,   0.,   0.,   0.],
     [  2.,   2.,   3., ...,   0.,   0.,   0.],
     ...,
     [  0.,   0.,   0., ...,   0.,   0.,   0.],
     [  0.,   0.,   0., ...,   0.,   0.,   0.],
     [  0.,   0.,   0., ...,   0.,   0.,   0.]]]], dtype=float32), array([[[[125., 119., 103., ...,  83.,  82.,  82.],
     [111.,  80.,  36., ...,  33.,  34.,  34.],
     [ 70.,  28.,  25., ...,  31.,  32.,  33.],
     ...,
     [ 25.,  29.,  33., ...,   9.,   9.,   9.],
     [ 27.,  31.,  34., ...,  10.,  10.,  10.],
     [ 28.,  32.,  35., ...,  10.,  10.,  10.]],

    [[  0.,   0.,  -1., ...,  -6.,  -6.,  -6.],
     [  0.,   0.,  -1., ...,  -6.,  -6.,  -6.],
     [  2.,   2.,  -2., ...,  -8.,  -8.,  -8.],
     ...,
     [ -1.,  -1.,  -3., ...,  -4.,  -4.,  -4.],
     [ -1.,  -1.,  -3., ...,  -4.,  -4.,  -4.],
     [ -1.,  -1.,  -3., ...,  -4.,  -4.,  -4.]],

    [[  0.,   0.,   2., ...,   4.,   4.,   4.],
     [  0.,   0.,   2., ...,   4.,   4.,   4.],
     [  3.,   3.,   5., ...,   7.,   6.,   6.],
     ...,
     [  2.,   2.,   2., ...,   1.,   1.,   1.],
     [  2.,   2.,   2., ...,   1.,   1.,   1.],
     [  2.,   2.,   2., ...,   1.,   1.,   1.]]]], dtype=float32), array([[[[124., 116.,  95., ...,  84.,  83.,  83.],
     [112.,  57., -44., ...,  38.,  38.,  38.],
     [ 34., -61., -78., ...,  32.,  32.,  31.],
     ...,
     [110., 108., 107., ...,  19.,  19.,  19.],
     [108., 107., 107., ...,  18.,  18.,  18.],
     [107., 107., 107., ...,  19.,  18.,  18.]],

    [[ -1.,  -1.,  -2., ...,  -7.,  -7.,  -7.],
     [ -1.,  -1.,  -2., ...,  -7.,  -7.,  -7.],
     [ -2.,  -2.,  -2., ..., -10., -10., -10.],
     ...,
     [ -1.,  -1.,   0., ...,  -3.,  -3.,  -3.],
     [  0.,   0.,   0., ...,  -3.,  -3.,  -3.],
     [  0.,   0.,   0., ...,  -3.,  -3.,  -3.]],

    [[  1.,   1.,   2., ...,   3.,   3.,   3.],
     [  1.,   1.,   2., ...,   3.,   3.,   3.],
     [  1.,   1.,   1., ...,   6.,   5.,   5.],
     ...,
     [  0.,   0.,   0., ...,   5.,   5.,   5.],
     [  0.,   0.,   0., ...,   5.,   5.,   5.],
     [  0.,   0.,   0., ...,   5.,   5.,   5.]]]], dtype=float32), array([[[[124., 118., 105., ...,  66.,  66.,  67.],
     [111.,  69.,  15., ..., -29., -30., -30.],
     [ 60.,   7.,  -5., ..., -29., -28., -26.],
     ...,
     [ 51.,  51.,  51., ...,  63.,  63.,  63.],
     [ 51.,  51.,  51., ...,  63.,  63.,  63.],
     [ 51.,  51.,  51., ...,  63.,  63.,  63.]],

    [[ -3.,  -3.,  -4., ...,  -5.,  -5.,  -5.],
     [ -3.,  -3.,  -4., ...,  -5.,  -5.,  -5.],
     [ -4.,  -4.,  -4., ...,  -7.,  -7.,  -7.],
     ...,
     [  0.,   0.,   0., ...,   0.,   0.,   0.],
     [  0.,   0.,   0., ...,   0.,   0.,   0.],
     [  0.,   0.,   0., ...,   0.,   0.,   0.]],

    [[  1.,   1.,   1., ...,   4.,   4.,   4.],
     [  1.,   1.,   1., ...,   4.,   4.,   4.],
     [  1.,   1.,   1., ...,   5.,   5.,   5.],
     ...,
     [  0.,   0.,   0., ...,   0.,   0.,   0.],
     [  0.,   0.,   0., ...,   0.,   0.,   0.],
     [  0.,   0.,   0., ...,   0.,   0.,   0.]]]], dtype=float32), array([[[[124., 118., 102., ...,  69.,  71.,  68.],
     [109.,  71.,  21., ..., -15., -12., -15.],
     [ 61.,  15.,   8., ..., -16., -13., -18.],
     ...,
     [ 61.,  61.,  61., ...,  69.,  69.,  70.],
     [ 61.,  61.,  61., ...,  69.,  69.,  70.],
     [ 62.,  61.,  61., ...,  69.,  69.,  70.]],

    [[ -2.,  -2.,  -4., ...,  -5.,  -5.,  -5.],
     [ -2.,  -2.,  -4., ...,  -5.,  -5.,  -5.],
     [ -4.,  -4.,  -6., ...,  -7.,  -7.,  -7.],
     ...,
     [  0.,   0.,   0., ...,   0.,  -1.,  -1.],
     [  0.,   0.,   0., ...,   0.,   0.,   0.],
     [  0.,   0.,   0., ...,   0.,   0.,   0.]],

    [[ -2.,  -2.,   1., ...,   4.,   4.,   4.],
     [ -2.,  -2.,   1., ...,   4.,   4.,   4.],
     [  1.,   1.,   3., ...,   7.,   6.,   6.],
     ...,
     [  0.,   0.,   0., ...,   0.,   0.,   0.],
     [  0.,   0.,   0., ...,   0.,   0.,   0.],
     [  0.,   0.,   0., ...,   0.,   0.,   0.]]]], dtype=float32), array([[[[  6.,  12.,  16., ...,  45.,  48.,  49.],
     [  6.,  13.,  17., ...,  47.,  46.,  46.],
     [  7.,  13.,  16., ...,  48.,  45.,  43.],
     ...,
     [-45., -45., -45., ..., -46., -46., -47.],
     [-44., -44., -44., ..., -46., -46., -47.],
     [-44., -44., -44., ..., -46., -46., -47.]],

    [[ -3.,  -3.,  -3., ..., -14., -14., -14.],
     [ -3.,  -3.,  -3., ..., -14., -14., -14.],
     [ -3.,  -3.,  -3., ..., -14., -14., -14.],
     ...,
     [  7.,   7.,   7., ...,   6.,   6.,   6.],
     [  7.,   7.,   7., ...,   6.,   6.,   6.],
     [  7.,   7.,   7., ...,   6.,   6.,   6.]],

    [[ -1.,  -1.,  -1., ...,   9.,   7.,   7.],
     [ -1.,  -1.,  -1., ...,   9.,   7.,   7.],
     [ -1.,  -1.,  -1., ...,   9.,   7.,   7.],
     ...,
     [ -6.,  -6.,  -6., ...,  -6.,  -6.,  -6.],
     [ -6.,  -6.,  -6., ...,  -6.,  -6.,  -6.],
     [ -6.,  -6.,  -6., ...,  -6.,  -6.,  -6.]]]], dtype=float32), array([[[[ 64.,  69.,  83., ...,  70.,  75.,  78.],
     [ 65.,  69.,  82., ...,  72.,  74.,  76.],
     [ 66.,  70.,  79., ...,  73.,  73.,  69.],
     ...,
     [ 38.,  37.,  41., ...,  17.,  24.,  15.],
     [ 35.,  41.,  38., ...,  19.,  27.,  15.],
     [ 24.,  32.,  38., ...,  20.,  28.,  17.]],

    [[  2.,   2.,   2., ...,  -3.,  -6.,  -6.],
     [  2.,   2.,   2., ...,  -3.,  -6.,  -6.],
     [  2.,   2.,   2., ...,  -4.,  -3.,  -3.],
     ...,
     [ -5.,  -5.,  -5., ...,  -3.,  -6.,  -6.],
     [ -5.,  -5.,  -5., ...,  -3.,  -6.,  -6.],
     [ -5.,  -5.,  -5., ...,  -3.,  -6.,  -6.]],

    [[ -1.,  -1.,  -1., ...,   4.,   4.,   4.],
     [ -1.,  -1.,  -1., ...,   4.,   4.,   4.],
     [ -1.,  -1.,  -1., ...,   4.,   4.,   4.],
     ...,
     [  2.,   2.,   2., ..., -11., -11., -11.],
     [  2.,   2.,   2., ..., -11., -11., -11.],
     [  2.,   2.,   2., ..., -11., -11., -11.]]]], dtype=float32), array([[[[ 95.,  89.,  84., ...,  59.,  59.,  59.],
     [ 93.,  90.,  87., ...,  59.,  59.,  59.],
     [ 93.,  91.,  88., ...,  60.,  60.,  60.],
     ...,
     [ 39.,  41.,  36., ...,  76., -20., -44.],
     [ 46.,  45.,  42., ..., 105.,  52., -30.],
     [ 38.,  42.,  38., ...,  73.,  79.,  16.]],

    [[  2.,   2.,   2., ...,  -5.,  -5.,  -5.],
     [  2.,   2.,   2., ...,  -5.,  -5.,  -5.],
     [  2.,   2.,   2., ...,  -5.,  -5.,  -5.],
     ...,
     [ -4.,  -4.,  -4., ...,  -3.,  -3.,  -3.],
     [ -4.,  -4.,  -4., ...,  -4.,  -3.,  -3.],
     [ -4.,  -4.,  -4., ...,  -4.,  -3.,  -3.]],

    [[  0.,   0.,   0., ...,   3.,   3.,   3.],
     [  0.,   0.,   0., ...,   3.,   3.,   3.],
     [  0.,   0.,   0., ...,   3.,   3.,   3.],
     ...,
     [  2.,   2.,   2., ...,   2.,  -8.,  -8.],
     [  2.,   2.,   2., ...,   2.,  -3.,  -3.],
     [  2.,   2.,   2., ...,   2.,  -3.,  -3.]]]], dtype=float32), array([[[[ 39.,  45.,  53., ..., -67., -75., -78.],
     [ 41.,  45.,  53., ..., -79., -80., -79.],
     [ 42.,  45.,  53., ..., -79., -79., -78.],
     ...,
     [-59., -58., -55., ...,  29.,  28.,  27.],
     [-54., -53., -50., ...,  31.,  28.,  26.],
     [-52., -50., -49., ...,  31.,  26.,  27.]],

    [[  4.,   4.,   4., ...,  -2.,  -2.,  -2.],
     [  4.,   4.,   4., ...,  -2.,  -2.,  -2.],
     [  4.,   4.,   4., ...,  -2.,  -2.,  -2.],
     ...,
     [  0.,   0.,   0., ..., -31., -31., -31.],
     [  0.,   0.,   0., ..., -31., -31., -31.],
     [  0.,   0.,   0., ..., -31., -31., -31.]],

    [[ -3.,  -3.,  -3., ...,   0.,   0.,   0.],
     [ -3.,  -3.,  -3., ...,   0.,   0.,   0.],
     [ -3.,  -3.,  -3., ...,   0.,   0.,   0.],
     ...,
     [  0.,   0.,   0., ...,  20.,  20.,  20.],
     [  0.,   0.,   0., ...,  20.,  20.,  20.],
     [  0.,   0.,   0., ...,  20.,  20.,  20.]]]], dtype=float32)]}}, 'hbdk_dict': {'hbdk_pass_through_params': '--O3 --core-num 1 --fast ', 'input-source': {'images': 'pyramid', '_default_value': 'ddr'}}, 'node_dict': {}, 'check_mode': False}

2026-07-20 11:38:00,674 file: model_builder.py func: model_builder line No: 35 Start to Horizon NN Model Convert.

2026-07-20 11:38:00,797 file: model_debugger.py func: model_debugger line No: 67 Loading horizon_nn debug methods:set()
2026-07-20 11:38:00,798 file: quantization_config.py func: quantization_config line No: 305 The activation calibration parameters:
calibration_type: kl
2026-07-20 11:38:00,799 file: input_dict_parser.py func: input_dict_parser line No: 240 input images is from pyramid. Its layout is set to NHWC
2026-07-20 11:38:00,799 file: model_builder.py func: model_builder line No: 197 The specified model compilation architecture: bayes-e.
2026-07-20 11:38:00,800 file: model_builder.py func: model_builder line No: 207 The specified model compilation optimization parameters: .
2026-07-20 11:38:00,800 file: model_builder.py func: model_builder line No: 35 Start to prepare the onnx model.
2026-07-20 11:38:00,843 file: prepare.py func: prepare line No: 106 Input ONNX Model Information:
ONNX IR version: 6
Opset version: [‘ai.onnx v11’, ‘horizon v1’]
Producer: pytorch v2.6.0
Domain: None
Version: None
Graph input:
images: shape=[1, 3, 640, 640], dtype=FLOAT32
Graph output:
cls_8: shape=[1, 6, 80, 80], dtype=FLOAT32
bbox_8: shape=[1, 64, 80, 80], dtype=FLOAT32
mc_8: shape=[1, 32, 80, 80], dtype=FLOAT32
cls_16: shape=[1, 6, 40, 40], dtype=FLOAT32
bbox_16: shape=[1, 64, 40, 40], dtype=FLOAT32
mc_16: shape=[1, 32, 40, 40], dtype=FLOAT32
cls_32: shape=[1, 6, 20, 20], dtype=FLOAT32
bbox_32: shape=[1, 64, 20, 20], dtype=FLOAT32
mc_32: shape=[1, 32, 20, 20], dtype=FLOAT32
proto: shape=[1, 32, 160, 160], dtype=FLOAT32
2026-07-20 11:38:02,981 file: model_builder.py func: model_builder line No: 38 End to prepare the onnx model.
2026-07-20 11:38:03,092 file: model_builder.py func: model_builder line No: 265 Saving model to: yolov5_best_quant_original_float_model.onnx.
2026-07-20 11:38:03,093 file: model_builder.py func: model_builder line No: 35 Start to optimize the onnx model.
2026-07-20 11:38:07,296 file: constant_folding.py func: constant_folding line No: 66 Summary info for constant_folding:
2026-07-20 11:38:07,296 file: constant_folding.py func: constant_folding line No: 67 After constant_folding, the number of nodes has changed from 347 to 247.
2026-07-20 11:38:07,297 file: constant_folding.py func: constant_folding line No: 71 After constant_folding, the number of parameters has changed from 11781974 to 11781958.
2026-07-20 11:38:07,297 file: constant_folding.py func: constant_folding line No: 76 Detailed info for constant_folding:
2026-07-20 11:38:07,297 file: constant_folding.py func: constant_folding line No: 88 After folding node (op_name: /model.2/Mul, op_type: Mul), the number of increased parameters is 0.
After folding node (op_name: /model.4/Mul, op_type: Mul), the number of increased parameters is 0.
After folding node (op_name: /model.6/Mul, op_type: Mul), the number of increased parameters is 0.
After folding node (op_name: /model.15/Mul, op_type: Mul), the number of increased parameters is 0.
After folding node (op_name: /model.8/Mul, op_type: Mul), the number of increased parameters is 0.
After folding node (op_name: /model.12/Mul, op_type: Mul), the number of increased parameters is 0.
After folding node (op_name: /model.18/Mul, op_type: Mul), the number of increased parameters is 0.
After folding node (op_name: /model.21/Mul, op_type: Mul), the number of increased parameters is 0.
After folding node (op_name: /model.2/Add, op_type: Add), the number of increased parameters is -1.
After folding node (op_name: /model.2/Div, op_type: Div), the number of increased parameters is -1.
After folding node (op_name: /model.2/Mul_1, op_type: Mul), the number of increased parameters is -1.
After folding node (op_name: /model.4/Add, op_type: Add), the number of increased parameters is -1.
After folding node (op_name: /model.4/Div, op_type: Div), the number of increased parameters is -1.
After folding node (op_name: /model.4/Mul_1, op_type: Mul), the number of increased parameters is -1.
After folding node (op_name: /model.6/Add, op_type: Add), the number of increased parameters is -1.
After folding node (op_name: /model.6/Div, op_type: Div), the number of increased parameters is -1.
After folding node (op_name: /model.6/Mul_1, op_type: Mul), the number of increased parameters is -1.
After folding node (op_name: /model.15/Add, op_type: Add), the number of increased parameters is -1.
After folding node (op_name: /model.15/Div, op_type: Div), the number of increased parameters is -1.
After folding node (op_name: /model.15/Mul_1, op_type: Mul), the number of increased parameters is -1.
After folding node (op_name: /model.8/Add, op_type: Add), the number of increased parameters is -1.
After folding node (op_name: /model.8/Div, op_type: Div), the number of increased parameters is -1.
After folding node (op_name: /model.8/Mul_1, op_type: Mul), the number of increased parameters is -1.
After folding node (op_name: /model.12/Add, op_type: Add), the number of increased parameters is -1.
After folding node (op_name: /model.12/Div, op_type: Div), the number of increased parameters is -1.
After folding node (op_name: /model.12/Mul_1, op_type: Mul), the number of increased parameters is -1.
After folding node (op_name: /model.18/Add, op_type: Add), the number of increased parameters is -1.
After folding node (op_name: /model.18/Div, op_type: Div), the number of increased parameters is -1.
After folding node (op_name: /model.18/Mul_1, op_type: Mul), the number of increased parameters is -1.
After folding node (op_name: /model.21/Add, op_type: Add), the number of increased parameters is -1.
After folding node (op_name: /model.21/Div, op_type: Div), the number of increased parameters is -1.
After folding node (op_name: /model.21/Mul_1, op_type: Mul), the number of increased parameters is -1.
After folding node (op_name: /model.2/Gather, op_type: Gather), the number of increased parameters is -3.
After folding node (op_name: /model.4/Gather, op_type: Gather), the number of increased parameters is -3.
After folding node (op_name: /model.6/Gather, op_type: Gather), the number of increased parameters is -3.
After folding node (op_name: /model.15/Gather, op_type: Gather), the number of increased parameters is -3.
After folding node (op_name: /model.8/Gather, op_type: Gather), the number of increased parameters is -3.
After folding node (op_name: /model.12/Gather, op_type: Gather), the number of increased parameters is -3.
After folding node (op_name: /model.18/Gather, op_type: Gather), the number of increased parameters is -3.
After folding node (op_name: /model.21/Gather, op_type: Gather), the number of increased parameters is -3.
2026-07-20 11:38:08,611 file: model_builder.py func: model_builder line No: 38 End to optimize the onnx model.
2026-07-20 11:38:08,726 file: model_builder.py func: model_builder line No: 265 Saving model to: yolov5_best_quant_optimized_float_model.onnx.
2026-07-20 11:38:08,727 file: model_builder.py func: model_builder line No: 35 Start to calibrate the model.
2026-07-20 11:38:09,646 file: calibration_data_set.py func: calibration_data_set line No: 111 input name: images, number_of_samples: 100
2026-07-20 11:38:09,647 file: calibration_data_set.py func: calibration_data_set line No: 123 There are 100 samples in the data set.
2026-07-20 11:38:09,647 file: infer_thresholds.py func: infer_thresholds line No: 84 Run calibration model with kl:num_bin=1024,max_num_bin=16384 method.
2026-07-20 11:38:10,055 file: base.py func: base line No: 138 Calibration using batch 8
2026-07-20 11:40:57,617 file: model_builder.py func: model_builder line No: 38 End to calibrate the model.
2026-07-20 11:40:57,852 file: model_builder.py func: model_builder line No: 265 Saving model to: yolov5_best_quant_calibrated_model.onnx.
2026-07-20 11:40:57,852 file: model_builder.py func: model_builder line No: 35 Start to quantize the model.
2026-07-20 11:41:01,946 file: constant_folding.py func: constant_folding line No: 66 Summary info for constant_folding:
2026-07-20 11:41:01,946 file: constant_folding.py func: constant_folding line No: 67 After constant_folding, the number of nodes has changed from 224 to 224.
2026-07-20 11:41:01,946 file: constant_folding.py func: constant_folding line No: 71 After constant_folding, the number of parameters has changed from 11809454 to 11809454.
2026-07-20 11:41:01,946 file: constant_folding.py func: constant_folding line No: 76 Detailed info for constant_folding:
2026-07-20 11:41:01,946 file: constant_folding.py func: constant_folding line No: 88
2026-07-20 11:41:02,577 file: model_builder.py func: model_builder line No: 38 End to quantize the model.
2026-07-20 11:41:02,789 file: model_builder.py func: model_builder line No: 265 Saving model to: yolov5_best_quant_quantized_model.onnx.
2026-07-20 11:41:02,790 file: model_builder.py func: model_builder line No: 35 Start to compile the model with march bayes-e.
2026-07-20 11:41:03,732 file: hybrid_build.py func: hybrid_build line No: 111 Compile submodel: main_graph_subgraph_0
2026-07-20 11:41:03,792 file: hbdk_cc.py func: hbdk_cc line No: 126 hbdk-cc parameters:[‘–O3’, ‘–core-num’, ‘1’, ‘–fast’, ‘–input-layout’, ‘NHWC’, ‘–output-layout’, ‘NHWC’, ‘–input-source’, ‘pyramid’]
2026-07-20 11:41:03,792 file: hbdk_cc.py func: hbdk_cc line No: 127 hbdk-cc command used:hbdk-cc -f hbir -m /tmp/tmpxhhix7ew/main_graph_subgraph_0.hbir -o /tmp/tmpxhhix7ew/main_graph_subgraph_0.hbm --march bayes-e --progressbar --O3 --core-num 1 --fast --input-layout NHWC --output-layout NHWC --input-source pyramid
2026-07-20 11:45:54,412 file: tool_utils.py func: tool_utils line No: 326 consumed time 290.511
2026-07-20 11:45:54,546 file: tool_utils.py func: tool_utils line No: 326 FPS=73.37, latency = 13630.0 us, DDR = 54817792 bytes (see main_graph_subgraph_0.html)
2026-07-20 11:45:54,715 file: model_builder.py func: model_builder line No: 38 End to compile the model with march bayes-e.
2026-07-20 11:45:57,802 file: print_info_dict.py func: print_info_dict line No: 72 The main quantized node information:

Node ON Subgraph Type Cosine Similarity Threshold DataType

HZ_PREPROCESS_FOR_images BPU id(0) HzSQuantizedPreprocess 1.000008 127.0 int8

/model.0/conv/Conv BPU id(0) HzSQuantizedConv 0.996543 1.09201 int8
/model.0/act/Mul BPU id(0) HzLut 0.993905 28.4593 int8
/model.1/conv/Conv BPU id(0) HzSQuantizedConv 0.988920 26.0617 int8
/model.1/act/Mul BPU id(0) HzLut 0.986698 54.6944 int8
/model.2/cv1/conv/Conv BPU id(0) HzSQuantizedConv 0.988788 54.6944 int8
/model.2/cv1/act/Mul BPU id(0) HzLut 0.989204 37.0838 int8
/model.2/Slice BPU id(0) Slice 0.988544 37.0838 int8
/model.2/Slice_1 BPU id(0) Slice 0.990357 37.0838 int8
/model.2/m.0/cv1/conv/Conv BPU id(0) HzSQuantizedConv 0.986224 37.0838 int8
/model.2/m.0/cv1/act/Mul BPU id(0) HzLut 0.984549 25.1824 int8
/model.2/m.0/cv2/conv/Conv BPU id(0) HzSQuantizedConv 0.977105 37.1803 int8
/model.2/m.0/cv2/act/Mul BPU id(0) HzLut 0.977401 23.0713 int8
/model.2/m.0/Add BPU id(0) HzSElementwiseAdd 0.982266 37.0838 int8
/model.2/Slice_output_0_calibrated_Requantize BPU id(0) HzRequantize – – int8
/model.2/Slice_1_output_0_calibrated_Requantize BPU id(0) HzRequantize – – int8
/model.2/Concat BPU id(0) Concat 0.984056 37.0838 int8
/model.2/cv2/conv/Conv BPU id(0) HzSQuantizedConv 0.978708 10.4899 int8
/model.2/cv2/act/Mul BPU id(0) HzLut 0.980232 17.3584 int8
/model.3/conv/Conv BPU id(0) HzSQuantizedConv 0.982288 6.74106 int8
/model.3/act/Mul BPU id(0) HzLut 0.985810 7.7383 int8
/model.4/cv1/conv/Conv BPU id(0) HzSQuantizedConv 0.985667 4.3675 int8
/model.4/cv1/act/Mul BPU id(0) HzLut 0.984311 10.0909 int8
/model.4/Slice BPU id(0) Slice 0.983860 10.0905 int8
/model.4/Slice_1 BPU id(0) Slice 0.985792 10.0905 int8
/model.4/m.0/cv1/conv/Conv BPU id(0) HzSQuantizedConv 0.980172 10.0905 int8
/model.4/m.0/cv1/act/Mul BPU id(0) HzLut 0.951896 7.34158 int8
/model.4/m.0/cv2/conv/Conv BPU id(0) HzSQuantizedConv 0.977295 1.88625 int8
/model.4/m.0/cv2/act/Mul BPU id(0) HzLut 0.976283 7.55992 int8
/model.4/m.0/Add BPU id(0) HzSElementwiseAdd 0.983091 10.0905 int8
/model.4/m.1/cv1/conv/Conv BPU id(0) HzSQuantizedConv 0.988299 4.82922 int8
/model.4/m.1/cv1/act/Mul BPU id(0) HzLut 0.980909 6.91442 int8
/model.4/m.1/cv2/conv/Conv BPU id(0) HzSQuantizedConv 0.970197 1.50287 int8
/model.4/m.1/cv2/act/Mul BPU id(0) HzLut 0.972730 10.3708 int8
/model.4/m.1/Add BPU id(0) HzSElementwiseAdd 0.981831 4.82922 int8
/model.4/Slice_output_0_calibrated_Requantize BPU id(0) HzRequantize – – int8
/model.4/Slice_1_output_0_calibrated_Requantize BPU id(0) HzRequantize – – int8
/model.4/m.0/Add_output_0_calibrated_Requantize BPU id(0) HzRequantize – – int8
/model.4/Concat BPU id(0) Concat 0.982517 10.0905 int8
/model.4/cv2/conv/Conv BPU id(0) HzSQuantizedConv 0.982220 6.46352 int8
/model.4/cv2/act/Mul BPU id(0) HzLut 0.973308 8.36002 int8
/model.5/conv/Conv BPU id(0) HzSQuantizedConv 0.986152 2.82935 int8
/model.5/act/Mul BPU id(0) HzLut 0.966107 8.32424 int8
/model.6/cv1/conv/Conv BPU id(0) HzSQuantizedConv 0.980487 1.7233 int8
/model.6/cv1/act/Mul BPU id(0) HzLut 0.974408 9.42691 int8
/model.6/Slice BPU id(0) Slice 0.973294 9.42615 int8
/model.6/Slice_1 BPU id(0) Slice 0.978496 9.42615 int8
/model.6/m.0/cv1/conv/Conv BPU id(0) HzSQuantizedConv 0.989783 9.42615 int8
/model.6/m.0/cv1/act/Mul BPU id(0) HzLut 0.965521 8.705 int8
/model.6/m.0/cv2/conv/Conv BPU id(0) HzSQuantizedConv 0.979172 2.45565 int8
/model.6/m.0/cv2/act/Mul BPU id(0) HzLut 0.973056 8.87431 int8
/model.6/m.0/Add BPU id(0) HzSElementwiseAdd 0.974020 9.42615 int8
/model.6/m.1/cv1/conv/Conv BPU id(0) HzSQuantizedConv 0.991523 11.2889 int8
/model.6/m.1/cv1/act/Mul BPU id(0) HzLut 0.970168 9.14445 int8
/model.6/m.1/cv2/conv/Conv BPU id(0) HzSQuantizedConv 0.968773 2.56527 int8
/model.6/m.1/cv2/act/Mul BPU id(0) HzLut 0.967795 13.449 int8
/model.6/m.1/Add BPU id(0) HzSElementwiseAdd 0.973433 11.2889 int8
/model.6/Slice_output_0_calibrated_Requantize BPU id(0) HzRequantize – – int8
/model.6/Slice_1_output_0_calibrated_Requantize BPU id(0) HzRequantize – – int8
/model.6/m.0/Add_output_0_calibrated_Requantize BPU id(0) HzRequantize – – int8
/model.6/Concat BPU id(0) Concat 0.973488 9.42615 int8
/model.6/cv2/conv/Conv BPU id(0) HzSQuantizedConv 0.989002 7.83592 int8
/model.6/cv2/act/Mul BPU id(0) HzLut 0.971416 8.40974 int8
/model.7/conv/Conv BPU id(0) HzSQuantizedConv 0.988917 2.32962 int8
/model.7/act/Mul BPU id(0) HzLut 0.967489 8.56554 int8
/model.8/cv1/conv/Conv BPU id(0) HzSQuantizedConv 0.987016 2.42445 int8
/model.8/cv1/act/Mul BPU id(0) HzLut 0.974439 9.91075 int8
/model.8/Slice BPU id(0) Slice 0.976456 9.91025 int8
/model.8/Slice_1 BPU id(0) Slice 0.968270 9.91025 int8
/model.8/m.0/cv1/conv/Conv BPU id(0) HzSQuantizedConv 0.978997 9.91025 int8
/model.8/m.0/cv1/act/Mul BPU id(0) HzLut 0.962727 10.7755 int8
/model.8/m.0/cv2/conv/Conv BPU id(0) HzSQuantizedConv 0.961182 3.5495 int8
/model.8/m.0/cv2/act/Mul BPU id(0) HzLut 0.968113 12.9262 int8
/model.8/m.0/Add BPU id(0) HzSElementwiseAdd 0.964568 9.91025 int8
/model.8/Slice_output_0_calibrated_Requantize BPU id(0) HzRequantize – – int8
/model.8/Slice_1_output_0_calibrated_Requantize BPU id(0) HzRequantize – – int8
/model.8/Concat BPU id(0) Concat 0.968694 9.91025 int8
/model.8/cv2/conv/Conv BPU id(0) HzSQuantizedConv 0.983851 4.25468 int8
/model.8/cv2/act/Mul BPU id(0) HzLut 0.967964 9.22064 int8
/model.9/cv1/conv/Conv BPU id(0) HzSQuantizedConv 0.989476 3.06541 int8
/model.9/m/MaxPool BPU id(0) HzQuantizedMaxPool 0.994768 12.7026 int8
/model.9/m_1/MaxPool BPU id(0) HzQuantizedMaxPool 0.994676 12.7026 int8
/model.9/m_2/MaxPool BPU id(0) HzQuantizedMaxPool 0.994831 12.7026 int8
/model.9/Concat BPU id(0) Concat 0.994212 12.7026 int8
/model.9/cv2/conv/Conv BPU id(0) HzSQuantizedConv 0.991145 12.7026 int8
/model.9/cv2/act/Mul BPU id(0) HzLut 0.974780 9.22607 int8
/model.10/Resize BPU id(0) HzQuantizedResizeUpsample 0.974749 3.3724 int8
/model.10/Resize_output_0_calibrated_Requantize BPU id(0) HzRequantize – – int8
/model.11/Concat BPU id(0) Concat 0.972135 3.3724 int8
/model.12/cv1/conv/Conv BPU id(0) HzSQuantizedConv 0.988283 2.32962 int8
/model.12/cv1/act/Mul BPU id(0) HzLut 0.971200 10.838 int8
/model.12/Slice BPU id(0) Slice 0.961796 10.8378 int8
/model.12/Slice_1 BPU id(0) Slice 0.978120 10.8378 int8
/model.12/m.0/cv1/conv/Conv BPU id(0) HzSQuantizedConv 0.985663 10.8378 int8
/model.12/m.0/cv1/act/Mul BPU id(0) HzLut 0.966101 7.72794 int8
/model.12/m.0/cv2/conv/Conv BPU id(0) HzSQuantizedConv 0.961913 1.82824 int8
/model.12/m.0/cv2/act/Mul BPU id(0) HzLut 0.957052 9.24556 int8
/model.12/Slice_output_0_calibrated_Requantize BPU id(0) HzRequantize – – int8
/model.12/Slice_1_output_0_calibrated_Requantize BPU id(0) HzRequantize – – int8
/model.12/Concat BPU id(0) Concat 0.963592 10.8378 int8
/model.12/cv2/conv/Conv BPU id(0) HzSQuantizedConv 0.977094 3.14974 int8
/model.12/cv2/act/Mul BPU id(0) HzLut 0.970026 8.5406 int8
/model.13/Resize BPU id(0) HzQuantizedResizeUpsample 0.969990 3.35411 int8
/model.13/Resize_output_0_calibrated_Requantize BPU id(0) HzRequantize – – int8
…el.4/cv2/act/Mul_output_0_calibrated_Requantize BPU id(0) HzRequantize – – int8
/model.14/Concat BPU id(0) Concat 0.971119 3.35411 int8
/model.15/cv1/conv/Conv BPU id(0) HzSQuantizedConv 0.989694 4.33439 int8
/model.15/cv1/act/Mul BPU id(0) HzLut 0.990528 5.97827 int8
/model.15/Slice BPU id(0) Slice 0.991157 5.96316 int8
/model.15/Slice_1 BPU id(0) Slice 0.989440 5.96316 int8
/model.15/m.0/cv1/conv/Conv BPU id(0) HzSQuantizedConv 0.982665 5.96316 int8
/model.15/m.0/cv1/act/Mul BPU id(0) HzLut 0.980746 6.93318 int8
/model.15/m.0/cv2/conv/Conv BPU id(0) HzSQuantizedConv 0.978835 3.11001 int8
/model.15/m.0/cv2/act/Mul BPU id(0) HzLut 0.981616 6.5354 int8
/model.15/Slice_output_0_calibrated_Requantize BPU id(0) HzRequantize – – int8
/model.15/Slice_1_output_0_calibrated_Requantize BPU id(0) HzRequantize – – int8
/model.15/Concat BPU id(0) Concat 0.987194 5.96316 int8
/model.15/cv2/conv/Conv BPU id(0) HzSQuantizedConv 0.984102 4.0151 int8
/model.15/cv2/act/Mul BPU id(0) HzLut 0.982472 6.8995 int8
/model.16/conv/Conv BPU id(0) HzSQuantizedConv 0.973329 2.47855 int8
/model.16/act/Mul BPU id(0) HzLut 0.945250 8.75276 int8
/model.17/Concat BPU id(0) Concat 0.958097 3.35411 int8
/model.18/cv1/conv/Conv BPU id(0) HzSQuantizedConv 0.973786 3.35411 int8
/model.18/cv1/act/Mul BPU id(0) HzLut 0.957263 7.51858 int8
/model.18/Slice BPU id(0) Slice 0.956547 7.5145 int8
/model.18/Slice_1 BPU id(0) Slice 0.958087 7.5145 int8
/model.18/m.0/cv1/conv/Conv BPU id(0) HzSQuantizedConv 0.980335 7.5145 int8
/model.18/m.0/cv1/act/Mul BPU id(0) HzLut 0.967534 8.3858 int8
/model.18/m.0/cv2/conv/Conv BPU id(0) HzSQuantizedConv 0.956183 2.33018 int8
/model.18/m.0/cv2/act/Mul BPU id(0) HzLut 0.934213 11.62 int8
/model.18/Slice_output_0_calibrated_Requantize BPU id(0) HzRequantize – – int8
/model.18/Slice_1_output_0_calibrated_Requantize BPU id(0) HzRequantize – – int8
/model.18/Concat BPU id(0) Concat 0.943712 7.5145 int8
/model.18/cv2/conv/Conv BPU id(0) HzSQuantizedConv 0.968952 4.94647 int8
/model.18/cv2/act/Mul BPU id(0) HzLut 0.951741 12.744 int8
/model.19/conv/Conv BPU id(0) HzSQuantizedConv 0.960870 1.90308 int8
/model.19/act/Mul BPU id(0) HzLut 0.930728 9.06073 int8
/model.20/Concat BPU id(0) Concat 0.953998 3.3724 int8
/model.21/cv1/conv/Conv BPU id(0) HzSQuantizedConv 0.975270 3.3724 int8
/model.21/cv1/act/Mul BPU id(0) HzLut 0.951368 8.41048 int8
/model.21/Slice BPU id(0) Slice 0.941024 8.40861 int8
/model.21/Slice_1 BPU id(0) Slice 0.958527 8.40861 int8
/model.21/m.0/cv1/conv/Conv BPU id(0) HzSQuantizedConv 0.973296 8.40861 int8
/model.21/m.0/cv1/act/Mul BPU id(0) HzLut 0.940429 8.36788 int8
/model.21/m.0/cv2/conv/Conv BPU id(0) HzSQuantizedConv 0.959143 2.20866 int8
/model.21/m.0/cv2/act/Mul BPU id(0) HzLut 0.933791 14.5098 int8
/model.21/Slice_output_0_calibrated_Requantize BPU id(0) HzRequantize – – int8
/model.21/Slice_1_output_0_calibrated_Requantize BPU id(0) HzRequantize – – int8
/model.21/Concat BPU id(0) Concat 0.939285 8.40861 int8
/model.21/cv2/conv/Conv BPU id(0) HzSQuantizedConv 0.950622 3.32845 int8
/model.21/cv2/act/Mul BPU id(0) HzLut 0.921896 16.2671 int8
/model.22/proto/cv1/conv/Conv BPU id(0) HzSQuantizedConv 0.980365 2.47855 int8
/model.22/proto/cv1/act/Mul BPU id(0) HzLut 0.959226 5.92537 int8
/model.22/proto/upsample/ConvTranspose BPU id(0) HzSQuantizedConvTranspose 0.970872 1.56464 int8
/model.22/proto/cv2/conv/Conv BPU id(0) HzSQuantizedConv 0.985363 1.00734 int8
/model.22/proto/cv2/act/Mul BPU id(0) HzLut 0.959775 7.74589 int8
/model.22/proto/cv3/conv/Conv BPU id(0) HzSQuantizedConv 0.964745 2.20481 int8
/model.22/proto/cv3/act/Mul BPU id(0) HzLut2Layer 0.961469 9.4541 int16
/model.22/cv3.0/cv3.0.0/conv/Conv BPU id(0) HzSQuantizedConv 0.978270 2.47855 int8
/model.22/cv3.0/cv3.0.0/act/Mul BPU id(0) HzLut 0.955662 8.42775 int8
/model.22/cv3.0/cv3.0.1/conv/Conv BPU id(0) HzSQuantizedConv 0.965928 1.75255 int8
/model.22/cv3.0/cv3.0.1/act/Mul BPU id(0) HzLut 0.972336 30.6388 int8
/model.22/cv3.0/cv3.0.2/Conv BPU id(0) HzSQuantizedConv 0.997896 9.26294 int8
/model.22/cv2.0/cv2.0.0/conv/Conv BPU id(0) HzSQuantizedConv 0.977020 2.47855 int8
/model.22/cv2.0/cv2.0.0/act/Mul BPU id(0) HzLut 0.966275 8.19705 int8
/model.22/cv2.0/cv2.0.1/conv/Conv BPU id(0) HzSQuantizedConv 0.967483 2.84653 int8
/model.22/cv2.0/cv2.0.1/act/Mul BPU id(0) HzLut 0.970198 31.1422 int8
/model.22/cv2.0/cv2.0.2/Conv BPU id(0) HzSQuantizedConv 0.987863 18.5971 int8
/model.22/cv4.0/cv4.0.0/conv/Conv BPU id(0) HzSQuantizedConv 0.969865 2.47855 int8
/model.22/cv4.0/cv4.0.0/act/Mul BPU id(0) HzLut 0.971989 6.44639 int8
/model.22/cv4.0/cv4.0.1/conv/Conv BPU id(0) HzSQuantizedConv 0.977712 4.04418 int8
/model.22/cv4.0/cv4.0.1/act/Mul BPU id(0) HzLut 0.979905 9.31627 int8
/model.22/cv4.0/cv4.0.2/Conv BPU id(0) HzSQuantizedConv 0.989008 8.54331 int8
/model.22/cv3.1/cv3.1.0/conv/Conv BPU id(0) HzSQuantizedConv 0.952583 1.90308 int8
/model.22/cv3.1/cv3.1.0/act/Mul BPU id(0) HzLut 0.940943 10.5231 int8
/model.22/cv3.1/cv3.1.1/conv/Conv BPU id(0) HzSQuantizedConv 0.950955 4.10292 int8
/model.22/cv3.1/cv3.1.1/act/Mul BPU id(0) HzLut 0.958545 33.7789 int8
/model.22/cv3.1/cv3.1.2/Conv BPU id(0) HzSQuantizedConv 0.997087 20.1717 int8
/model.22/cv2.1/cv2.1.0/conv/Conv BPU id(0) HzSQuantizedConv 0.950718 1.90308 int8
/model.22/cv2.1/cv2.1.0/act/Mul BPU id(0) HzLut 0.945545 10.4181 int8
/model.22/cv2.1/cv2.1.1/conv/Conv BPU id(0) HzSQuantizedConv 0.952601 6.11866 int8
/model.22/cv2.1/cv2.1.1/act/Mul BPU id(0) HzLut 0.952219 27.9923 int8
/model.22/cv2.1/cv2.1.2/Conv BPU id(0) HzSQuantizedConv 0.965434 13.9137 int8
/model.22/cv4.1/cv4.1.0/conv/Conv BPU id(0) HzSQuantizedConv 0.953246 1.90308 int8
/model.22/cv4.1/cv4.1.0/act/Mul BPU id(0) HzLut 0.954143 6.51867 int8
/model.22/cv4.1/cv4.1.1/conv/Conv BPU id(0) HzSQuantizedConv 0.968699 4.08181 int8
/model.22/cv4.1/cv4.1.1/act/Mul BPU id(0) HzLut 0.964299 8.25927 int8
/model.22/cv4.1/cv4.1.2/Conv BPU id(0) HzSQuantizedConv 0.977885 6.09453 int8
/model.22/cv3.2/cv3.2.0/conv/Conv BPU id(0) HzSQuantizedConv 0.942779 3.71742 int8
/model.22/cv3.2/cv3.2.0/act/Mul BPU id(0) HzLut 0.893502 14.0345 int8
/model.22/cv3.2/cv3.2.1/conv/Conv BPU id(0) HzSQuantizedConv 0.922622 4.49342 int8
/model.22/cv3.2/cv3.2.1/act/Mul BPU id(0) HzLut 0.935466 44.8791 int8
/model.22/cv3.2/cv3.2.2/Conv BPU id(0) HzSQuantizedConv 0.989903 24.8546 int8
/model.22/cv2.2/cv2.2.0/conv/Conv BPU id(0) HzSQuantizedConv 0.963798 3.71742 int8
/model.22/cv2.2/cv2.2.0/act/Mul BPU id(0) HzLut 0.959698 11.7945 int8
/model.22/cv2.2/cv2.2.1/conv/Conv BPU id(0) HzSQuantizedConv 0.962039 4.87214 int8
/model.22/cv2.2/cv2.2.1/act/Mul BPU id(0) HzLut 0.964717 32.388 int8
/model.22/cv2.2/cv2.2.2/Conv BPU id(0) HzSQuantizedConv 0.972729 21.5602 int8
/model.22/cv4.2/cv4.2.0/conv/Conv BPU id(0) HzSQuantizedConv 0.949488 3.71742 int8
/model.22/cv4.2/cv4.2.0/act/Mul BPU id(0) HzLut 0.948926 8.79846 int8
/model.22/cv4.2/cv4.2.1/conv/Conv BPU id(0) HzSQuantizedConv 0.937313 3.62343 int8
/model.22/cv4.2/cv4.2.1/act/Mul BPU id(0) HzLut 0.937075 9.08398 int8
/model.22/cv4.2/cv4.2.2/Conv BPU id(0) HzSQuantizedConv 0.981696 4.52289 int8
2026-07-20 11:45:57,803 file: print_info_dict.py func: print_info_dict line No: 72 The quantized model output:

Output Cosine Similarity L1 Distance L2 Distance Chebyshev Distance

cls_8 0.997896 1.201932 0.008371 10.027243
bbox_8 0.987863 0.458038 0.000990 9.563538
mc_8 0.989008 0.060755 0.000193 0.788587
cls_16 0.997087 1.256169 0.017608 15.521231
bbox_16 0.965434 0.561170 0.002575 5.911057
mc_16 0.977885 0.070593 0.000457 0.883987
cls_32 0.989903 1.252284 0.053062 29.655237
bbox_32 0.972729 0.520671 0.004696 4.508177
mc_32 0.981696 0.061826 0.000823 0.907582
proto 0.961469 0.146306 0.000283 4.418142
2026-07-20 11:45:57,806 file: model_builder.py func: model_builder line No: 38 End to Horizon NN Model Convert.
2026-07-20 11:45:57,816 file: hb_mapper_makertbin.py func: hb_mapper_makertbin line No: 601 start convert to *.bin file…
2026-07-20 11:45:57,835 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4326 ONNX model output num : 10
2026-07-20 11:45:57,838 file: layout_util.py func: layout_util line No: 15 set_featuremap_layout start
2026-07-20 11:45:57,838 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4060 model_deps_info: {‘hb_mapper_version’: ‘1.24.3’, ‘hbdk_version’: ‘3.49.15’, ‘hbdk_runtime_version’: ’ 3.15.55.0’, ‘horizon_nn_version’: ‘1.1.0’, ‘onnx_model’: ‘/workspace/rdk_work/best.onnx’, ‘march’: ‘bayes-e’, ‘layer_out_dump’: False, ‘log_level’: ‘DEBUG’, ‘working_dir’: ‘/workspace/rdk_work/model_output’, ‘model_prefix’: ‘yolov5_best_quant’, ‘input_names’: [‘images’], ‘input_type_rt’: [‘nv12’], ‘input_space_and_range’: [‘regular’], ‘input_type_train’: [‘rgb’], ‘input_layout_rt’: [‘’], ‘input_layout_train’: [‘NCHW’], ‘norm_type’: [‘data_scale’], ‘scale_value’: [‘0.003921568627,’], ‘mean_value’: [‘’], ‘input_shape’: [‘1x3x640x640’], ‘input_batch’: , ‘cal_dir’: [‘/workspace/rdk_work/calibration_images’], ‘cal_data_type’: [‘float32’], ‘preprocess_on’: True, ‘calibration_type’: ‘kl’, ‘per_channel’: ‘False’, ‘hbdk_params’: {‘hbdk_pass_through_params’: '–O3 --core-num 1 --fast ', ‘input-source’: {‘images’: ‘pyramid’, ‘_default_value’: ‘ddr’}}, ‘debug’: False, ‘compile_mode’: ‘latency’}
2026-07-20 11:45:57,838 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4183 ############# model deps info #############
2026-07-20 11:45:57,838 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4184 hb_mapper version : 1.24.3
2026-07-20 11:45:57,838 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4187 hbdk version : 3.49.15
2026-07-20 11:45:57,839 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4189 hbdk runtime version: 3.15.55.0
2026-07-20 11:45:57,839 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4192 horizon_nn version : 1.1.0
2026-07-20 11:45:57,839 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4196 ############# model_parameters info #############
2026-07-20 11:45:57,839 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4202 onnx_model : /workspace/rdk_work/best.onnx
2026-07-20 11:45:57,839 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4203 BPU march : bayes-e
2026-07-20 11:45:57,839 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4204 layer_out_dump : False
2026-07-20 11:45:57,839 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4205 log_level : DEBUG
2026-07-20 11:45:57,839 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4206 working dir : /workspace/rdk_work/model_output
2026-07-20 11:45:57,839 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4207 output_model_file_prefix: yolov5_best_quant
2026-07-20 11:45:57,839 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4228 ############# input_parameters info #############
2026-07-20 11:45:57,839 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4246 ------------------------------------------
2026-07-20 11:45:57,839 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4248 ---------input info : images ---------
2026-07-20 11:45:57,839 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4249 input_name : images
2026-07-20 11:45:57,839 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4250 input_type_rt : nv12
2026-07-20 11:45:57,839 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4252 input_space&range : regular
2026-07-20 11:45:57,839 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4254 input_layout_rt : None
2026-07-20 11:45:57,839 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4255 input_type_train : rgb
2026-07-20 11:45:57,839 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4256 input_layout_train : NCHW
2026-07-20 11:45:57,839 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4257 norm_type : data_scale
2026-07-20 11:45:57,839 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4258 input_shape : 1x3x640x640
2026-07-20 11:45:57,839 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4266 scale_value : 0.003921568627,
2026-07-20 11:45:57,839 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4268 cal_data_dir : /workspace/rdk_work/calibration_images
2026-07-20 11:45:57,839 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4270 cal_data_type : float32
2026-07-20 11:45:57,839 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4271 ---------input info : images end -------
2026-07-20 11:45:57,839 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4272 ------------------------------------------
2026-07-20 11:45:57,840 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4274 ############# calibration_parameters info #############
2026-07-20 11:45:57,840 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4275 preprocess_on : True
2026-07-20 11:45:57,840 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4276 calibration_type: : kl
2026-07-20 11:45:57,840 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4284 per_channel : False
2026-07-20 11:45:57,840 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4303 ############# compiler_parameters info #############
2026-07-20 11:45:57,840 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4305 debug : False
2026-07-20 11:45:57,840 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4307 compile_mode : latency
2026-07-20 11:45:57,840 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4310 hbdk_pass_through_params: --O3 --core-num 1 --fast
2026-07-20 11:45:57,840 file: onnx2horizonrt.py func: onnx2horizonrt line No: 4310 input-source : {‘images’: ‘pyramid’, ‘_default_value’: ‘ddr’}
2026-07-20 11:45:57,850 file: hb_mapper_makertbin.py func: hb_mapper_makertbin line No: 783 Convert to runtime bin file successfully!
2026-07-20 11:45:57,850 file: hb_mapper_makertbin.py func: hb_mapper_makertbin line No: 784 End Model Convert

[用户143]

是kl！！！！！！

[地瓜小助手_bot]

量化配置正确！但还需要验证 2 件事

从你的日志来看：

检查项	状态	说明
calibration_type	kl	校准方式正确
校准数据数量	100 张	满足最低要求
量化精度	Cosine > 0.96	所有输出头量化损失可接受
编译	成功	bin 文件已生成

---

关键问题：你是否还用 hb_model_modifier 删除了 Dequantize 节点？

这是核心问题！ 从你最初的描述：

hb_model_modifier 删除了所有 10 个 Dequantize 节点 → 输出纯 int32 累加器值

如果现在的 bin 文件还是删除了 Dequantize 的版本，输出值域一定会偏负！

---

立即验证步骤

确认当前 bin 文件是否包含 Dequantize

# 在 Docker 内用 Python 检查模型输出类型
python3 -c "
import horizon_nn as nn
model = nn.HBModel('model_output/yolov5_best_quant.bin')
print('=== 模型输出 ===')
for i, out in enumerate(model.outputs):
    print(f'output_{i}: name={out.name}, shape={out.shape}, dtype={out.dtype}')
"

预期结果：

dtype	状态
float32	Dequantize 保留（正确）
int32	Dequantize 被删了（问题根源）

---

板端推理测试（最关键！）

# 在 RDK X5 上执行
cd /path/to/model

# 准备测试输入
python3 -c "
import numpy as np
img = np.random.rand(1, 3, 640, 640).astype(np.float32)
np.save('test_input.npy', img)
"

# 执行模型
hrt_model_exec \
  --model yolov5_best_quant.bin \
  --input test_input.npy \
  --output test_output.npy

# 查看输出统计
python3 -c "
import numpy as np
out = np.load('test_output.npy')
print('Shape:', out.shape)
print('Dtype:', out.dtype)
print('Min:', out.min())
print('Max:', out.max())
print('Mean:', out.mean())
"

预期值域（正常 logit）：

输出类型	正常范围	你的当前值
cls logit	[-5, 5]	[-300000, -8000]
bbox logit	[-10, 10]	类似负值

---

解决方案

如果输出 dtype = int32 → 重新生成 bin 文件

# 不要运行 hb_model_modifier 删除 Dequantize！
# 直接使用 hb_mapper 生成的原始 bin 文件

# 量化后的 bin 文件位置
ls -la model_output/yolov5_best_quant.bin

# 这个文件应该已经包含 Dequantize 节点，输出 float32

如果输出 dtype = float32 但值域仍偏负

可能是校准数据分布问题，需要：

1. 检查校准数据是否覆盖各种场景
2. 增加校准数据到 200 张
3. 重新量化

---

请提供以下信息

1. Python 检查模型的输出 dtype（float32 还是 int32）
2. hrt_model_exec 测试的输出值域（Min/Max/Mean）
3. 当前使用的 bin 文件是否经过 hb_model_modifier 处理

先把这 2 个检查结果贴出来，我帮你确认下一步！

[地瓜小助手_bot]

好消息：calibration_type 用对了！

从日志确认：

calibration_type: kl  ✅
calibration_data: 100 张  ✅
Cosine Similarity: 全部 >0.96  ✅

量化本身没问题！问题出在后续处理。

---

核心问题确认

你第一句话说了：

“hb_model_modifier 删除了所有 10 个 Dequantize 节点 → 输出纯 int32 累加器值”

这就是问题根源！ 删除 Dequantize 后，量化参数（scale/zero_point）丢失，int32 值无法正确还原为 logit。

---

立即行动方案

方案 1：用原始量化模型（推荐）

# 1. 找到 hb_mapper 生成的原始模型（没删节点的）
ls -la model_output/yolov5_best_quant*.bin

# 2. 直接把这个模型传到 RDK X5 测试
# 不要运行 hb_model_modifier！

# 3. 在板端运行
hrt_model_exec \
  --model yolov5_best_quant.bin \
  --input test_input.npy \
  --output test_output.npy

# 4. 检查输出
python3 -c "
import numpy as np
out = np.load('test_output.npy')
print('Dtype:', out.dtype)  # 应该是 float32
print('Shape:', out.shape)
print('Min/Max:', out.min(), out.max())
print('Mean:', out.mean())
"

预期结果：

• dtype: float32
• 值域: [-10, 10] 左右

---

方案 2：如果必须用 int32 输出（高级用法）

只有在你明确需要 int32 输出时才用这个方案：

# 1. 从量化日志中提取每个输出头的 scale/zero_point
# 在 hb_mapper 日志中搜索 "threshold" 或 "scale"

# 2. 后处理中手动反量化
# logit = (int32_val - zero_point) * scale

# 3. 然后再做 sigmoid

但我不推荐这个方案，因为：

• 容易出错
• 置信度失去物理含义
• 需要手动维护量化参数

---

请确认以下信息

# 1. 你当前用的模型是哪个？
ls -la model_output/*.bin

# 2. 是否对模型运行过 hb_model_modifier？
history | grep hb_model_modifier

# 3. 在板端测试输出的 dtype 和值域
# （上面的 Python 脚本）

---

快速判断

现象	原因	解决
输出 dtype = int32	Dequantize 被删了	用原始量化模型
输出 dtype = float32 但值域全负	后处理代码问题	检查输出头顺序
输出 dtype = float32 且值域正常	模型没问题	检查后处理逻辑

---

先把模型文件列表和板端测试输出贴出来，我帮你确认下一步！

[用户143]

rdkx5的串口的ttyS5是哪个引脚

[地瓜小助手_bot]

RDK X5 串口 ttyS5 引脚说明

根据社区现有资料和官方文档，RDK X5 的 40PIN 排针默认只使能了 UART1 (ttyS1)，其他串口（包括 ttyS5）需要通过设备树配置启用。

关键信息

串口号	默认状态	40PIN 物理引脚	电平
ttyS1	默认启用	Pin 8 (TXD), Pin 10 (RXD)	3.3V
ttyS5	需手动启用	需查引脚复用表	3.3V

---

如何确认 ttyS5 对应的引脚

方法 1：查看设备树配置

# 在 RDK X5 上查看当前启用的串口
ls /dev/ttyS*

# 查看设备树中串口配置
cat /proc/device-tree/aliases | grep serial

方法 2：参考官方引脚复用文档

RDK X5 的串口引脚复用关系在 设备树源码 或 硬件手册 中定义。根据社区讨论：

• ttyS0: 系统调试口（不建议动）
• ttyS1: 40PIN Pin 8/10（默认启用）
• ttyS3~ttyS7: 需要修改设备树启用

ttyS5 的具体引脚需要查看你的设备树配置，因为不同版本可能有差异。

---

启用 ttyS5 的步骤

1. 修改设备树

# 编辑设备树 overlay（具体文件名可能不同）
cd /boot/overlays
# 添加 ttyS5 的启用配置

2. 重启生效

# 修改设备树后必须重启
sudo reboot

3. 验证串口是否可用

# 重启后检查
ls /dev/ttyS5

# 测试回环（短接 TXD/RXD）
python3 /app/40pin_samples/test_serial.py

---

注意事项

1. 电平标准：RDK X5 所有串口都是 3.3V 电平，不要接 5V 设备
2. 引脚复用冲突：启用 ttyS5 可能导致其他功能（如 GPIO、I2C）不可用
3. 必须重启：修改设备树后需要 reboot 才能生效

---

推荐资源

• 官方串口应用文档
• 社区讨论：串口引脚复用问题
• RDK X5 硬件手册（查看完整引脚定义）

---

建议行动

如果你需要 ttyS5 的确切引脚号：

1. 查看你的设备树源码（通常在 /boot/ 或设备树 overlay 目录）
2. 联系地平线技术支持获取准确的引脚映射表
3. 在社区发帖提供你的 OE 版本号，官方会给出具体的引脚定义

你当前的 OE 版本是多少？ 我可以帮你查找对应版本的设备树配置。