S100 开发板LLM模型量化转换hbm格式失败求助

通用
1

使用S100开发板，想要部署千问2.5-7B大模型，现在编译过程中报错OOM，我的电脑是64G内存的不够大。

我再SDK中找到resolve_model_nash-m.txt

里面有官方提供的已经预编译好的大模型，但是都是nash-m格式的，我想要nash-e格式的，可以给S100使用的那种，请问去哪里下载官方预编译好的大模型？

2

① 结论：官方预编译模型下载入口在 SDK 的 oellm_runtime/model/resolve_model_nash-m.txt；知识库未检索到单独的 nash-e 预编译模型下载地址，本地量化 OOM 时优先使用官方 .hbm 或换更大内存环境。

② 排查步骤：

  1. 下载/更新官方 S100 LLM SDK，并在 resolve_model_nash-m.txt 中查找 Qwen2.5-7B 的官方下载链接；根据官方文档，该文件提供已编译模型下载链接。
wget https://d-robotics-aitoolchain.oss-cn-beijing.aliyuncs.com/llm_s100/1.0.0/D-Robotics_LLM_S100_1.0.0_SDK.tar.gz
tar -xzf D-Robotics_LLM_S100_1.0.0_SDK.tar.gz
grep -i "Qwen2.5_7B\|hbm\|nash" D-Robotics_LLM_S100_1.0.0_SDK/oellm_runtime/model/resolve_model_nash-m.txt
  1. 确认清单中是否有板端要求的 *.hbm 模型；若只有 nash-m 且无 nash-e/hbm，知识库未给出可直接用于 S100 的 nash-e 下载方式，请向官方确认。
grep -i "Qwen2.5_7B_1024.hbm" D-Robotics_LLM_S100_1.0.0_SDK/oellm_runtime/model/resolve_model_nash-m.txt
  1. 若必须本地量化，先确认可用内存与 swap；这是通用排查经验，非官方结论，7B 量化可能超过 64G 可用内存，建议改用官方预编译 .hbm 或更高内存机器。
free -h && sudo swapon --show

③ 需补充信息：请提供系统镜像版本、SDK 版本、量化完整命令、完整 OOM 报错/截图，以及 resolve_model_nash-m.txt 中 Qwen2.5_7B 相关行（可打码下载链接）。