1. 模型介绍
本仓库提供由 Qwen/Qwen3-Reranker-0.6B 转换的 RKNN 模型。
- Model ID：
RKNNAI/RK182X-EMBEDDING-Qwen3-Reranker-0.6B
- 模型显示名称：
RK182X-EMBEDDING-Qwen3-Reranker-0.6B
- 发布版本：
v1.1.0
- 源模型：
Qwen/Qwen3-Reranker-0.6B
- 模型类型：EMBEDDING
- 芯片字段：RK182X
- 具体支持芯片：RK1820、RK1828
可用模型
| 发布版本 |
配置目录 |
支持芯片 |
量化方式 |
NPU 核数 |
上下文长度（tokens） |
最大文本长度（tokens） |
KVCache |
v1.1.0 |
Qwen3-Reranker-0.6B-w4a16-8-2048 |
RK1820、RK1828 |
w4a16 |
8 |
2048（2k） |
2048（2k） |
fp16 |
2. 文件说明
| 文件或目录 |
说明 |
LICENSE |
源模型许可证 |
NOTICE |
许可、使用要求及归属说明 |
<配置目录>/ |
配套模型文件 |
子目录 README.md |
当前配置说明 |
子目录 config.json |
模型配置与文件清单 |
子目录 SHA256SUMS |
当前目录交付文件的 SHA-256 校验值（不包含自身） |
3. 模型下载
ModelScope 完整下载：
modelscope download --model RKNNAI/RK182X-EMBEDDING-Qwen3-Reranker-0.6B --revision v1.1.0 --local_dir ./RK182X-EMBEDDING-Qwen3-Reranker-0.6B
Hugging Face 完整下载：
hf download RKNNAI/RK182X-EMBEDDING-Qwen3-Reranker-0.6B --revision v1.1.0 --local-dir ./RK182X-EMBEDDING-Qwen3-Reranker-0.6B
ModelScope 指定配置下载：
from modelscope import snapshot_download
snapshot_download(
"RKNNAI/RK182X-EMBEDDING-Qwen3-Reranker-0.6B",
revision="v1.1.0",
allow_patterns=["README.md", "LICENSE", "NOTICE", "Qwen3-Reranker-0.6B-w4a16-8-2048/**"],
local_dir="./RK182X-EMBEDDING-Qwen3-Reranker-0.6B",
)
Hugging Face 指定配置下载：
hf download RKNNAI/RK182X-EMBEDDING-Qwen3-Reranker-0.6B --revision v1.1.0 --include "README.md" "LICENSE" "NOTICE" "Qwen3-Reranker-0.6B-w4a16-8-2048/**" --local-dir ./RK182X-EMBEDDING-Qwen3-Reranker-0.6B
4. SHA-256 校验
在配置目录执行：
cd ./RK182X-EMBEDDING-Qwen3-Reranker-0.6B/Qwen3-Reranker-0.6B-w4a16-8-2048
sha256sum -c SHA256SUMS
所有条目显示 OK 后再部署。
5. 兼容性与限制
- 支持芯片：RK1820、RK1828。
- 使用配套 RKNN Runtime 和驱动；运行前用
rknn-smi -v 检查设备端版本。
- 所选配置目录内的文件须配套使用。
- 用于文本相关性重排序，输出相关性分数。
6. 版权与许可证
- 源模型许可证：Apache License 2.0，正文见 LICENSE，归属与转换修改说明见 NOTICE。
- 本仓库交付物为源权重的转换衍生物，仍受源模型许可和使用限制约束；不是上游未经修改的原始权重。
- 同时遵守 RKNN Toolkit、RKNN Runtime 相关许可；本包不包含运行库。
