rdk x5板子能跑qwen3.5-2b经过int8量化,然后转换成bin文件,利用bpu来运行吗?

rdk x5板子能跑qwen3.5-2b经过int8量化,然后转换成bin文件,利用bpu来运行吗?

你好,目前不支持,可以关注S100,手册第七章节有LLM工具链