rdks100p板子跑yolo系列视觉模型,怎么使用npu算力

你好 @sky77777

有的!视觉模型的转换文档和 LLM 类似,都在 OpenExplorer 工具包 的文档服务器里。

:open_book: 文档位置

你截图中的 OpenExplorerDocServer 就是本地文档服务器,启动后可以访问:

# 启动文档服务器
./start.sh  # Linux
# 或
OpenExplorerDocServer.exe  # Windows

然后在浏览器打开:http://localhost:8080


:magnifying_glass_tilted_left: 视觉模型文档路径

在文档服务器中,视觉模型转换的文档在:

开发指南 → 工具链开发 → 模型转换工具 (hb_mapper)

关键章节:

章节 内容
模型转换流程 ONNX → HBM 完整步骤
量化配置 PTQ/QAT 选择与配置
算子支持列表 检查模型算子是否被 BPU 支持
性能优化 编译优化参数

:books: 社区整理资源

我帮你找一下社区里整理好的教程:

你好 @sky77777

有的!官方提供了完整的视觉模型转换部署教程,和你看到的 LLM 转换文档类似。

:books: 官方文档资源

:one: Model Zoo 官方教程(推荐)

最完整的视觉模型部署教程在这里:

:two: 社区精华教程

社区大佬整理的万字长文教程(含完整代码):

  • RDKS100 模型量化及部署教程 - SkyXZ 整理
    • :white_check_mark: 环境安装(Docker 配置)
    • :white_check_mark: 模型转换(YOLOv5/v8 完整流程)
    • :white_check_mark: 板端部署(C++ 推理代码)
    • :white_check_mark: 校准数据准备
    • :white_check_mark: 常见问题排查

:three: 官方工具链文档


:rocket: 快速上手路径

根据你截图中的 OpenExplorerDocServer,你可以:

# 1. 启动本地文档服务器(如果你还没启动)
cd /path/to/OpenExplorerDocServer
./start.sh

# 2. 浏览器访问
http://localhost:8080

在文档中搜索以下关键词:

  • hb_mapper convert - 模型转换命令
  • PTQ 量化 - 后训练量化
  • QAT 量化 - 量化感知训练
  • YOLO 部署 - YOLO 系列专项教程

:clipboard: 视觉模型转换 vs LLM 转换对比

步骤 视觉模型(YOLO) LLM 模型
模型格式 ONNX → HBM ONNX/SafeTensor → HBM + GGUF
转换工具 hb_mapper hb_mapper + llama.cpp
量化方式 PTQ/QAT(INT8) INT4/INT8 混合精度
推理框架 hobot_dnn / UCP hobot_llamacpp
文档位置 Model Zoo 视觉目录 Model Zoo LLM 目录

:light_bulb: 建议操作

  1. 先看 Model Zoo 示例(最快上手):
git clone https://github.com/D-Robotics/rdk_model_zoo_s.git
cd rdk_model_zoo_s/samples/Vision/ultralytics_YOLO_Detect
cat README_cn.md  # 有完整步骤
  1. 参考社区教程(更详细):

    • 阅读 这篇万字教程
    • 里面有完整的 Docker 配置、模型转换 YAML、推理代码
  2. 遇到问题直接问

    • 你用的 YOLO 版本(v5/v8/v11?)
    • 转换时的具体报错
    • 板端推理的问题

需要我帮你整理一份视觉模型转换的快速检查清单吗?类似 LLM 那种步骤化的文档。