1. 模型介绍
本仓库提供由 google/gemma-4-E2B-it 转换得到的 RKNN MLLM 模型。
- Model ID：
RKNNAI/RK182X-MLLM-Gemma-4-E2B-it
- 模型显示名称：
RK182X-MLLM-Gemma-4-E2B-it
- 发布版本：
v1.1.0
- 源模型：
google/gemma-4-E2B-it
- 模型类型：MLLM
- 芯片字段：RK182X
- 具体支持芯片：RK1828
可用模型
| 发布版本 |
配置目录 |
支持芯片 |
分辨率 |
量化方式 |
NPU 核数 |
上下文长度（tokens） |
KVCache |
音频 chunk 大小 |
v1.1.0 |
Gemma-4-E2B-it-384x384-756frames-w4a16-8-102912-kv-int4 |
RK1828 |
Vision: 384x384 |
Vision: w4a16；Audio: w4a16；LLM: w4a16 |
Vision: 8；Audio: 8；LLM: 8 |
LLM: 102912（100.5k） |
LLM: int4 |
Audio: 756 mel_frames |
v1.1.0 |
Gemma-4-E2B-it-384x384-756frames-w4a16-8-45568 |
RK1828 |
Vision: 384x384 |
Vision: w4a16；Audio: w4a16；LLM: w4a16 |
Vision: 8；Audio: 8；LLM: 8 |
LLM: 45568（44.5k） |
LLM: fp16 |
Audio: 756 mel_frames |
2. 文件说明
| 文件或目录 |
说明 |
LICENSE |
源模型许可证 |
<配置目录>/ |
配套模型文件 |
子目录 README.md |
当前配置说明 |
子目录 config.json |
模型配置与文件清单 |
子目录 SHA256SUMS |
当前目录交付文件的 SHA-256 校验值（不包含自身） |
3. 模型下载
ModelScope 完整下载：
modelscope download --model RKNNAI/RK182X-MLLM-Gemma-4-E2B-it --revision v1.1.0 --local_dir ./RK182X-MLLM-Gemma-4-E2B-it
Hugging Face 完整下载：
hf download RKNNAI/RK182X-MLLM-Gemma-4-E2B-it --revision v1.1.0 --local-dir ./RK182X-MLLM-Gemma-4-E2B-it
ModelScope 指定配置下载：
from modelscope import snapshot_download
snapshot_download(
"RKNNAI/RK182X-MLLM-Gemma-4-E2B-it",
revision="v1.1.0",
allow_patterns=["README.md", "LICENSE", "Gemma-4-E2B-it-384x384-756frames-w4a16-8-102912-kv-int4/**"],
local_dir="./RK182X-MLLM-Gemma-4-E2B-it",
)
Hugging Face 指定配置下载：
hf download RKNNAI/RK182X-MLLM-Gemma-4-E2B-it --revision v1.1.0 --include "README.md" "LICENSE" "Gemma-4-E2B-it-384x384-756frames-w4a16-8-102912-kv-int4/**" --local-dir ./RK182X-MLLM-Gemma-4-E2B-it
4. SHA-256 校验
在配置目录执行：
cd ./RK182X-MLLM-Gemma-4-E2B-it/Gemma-4-E2B-it-384x384-756frames-w4a16-8-102912-kv-int4
sha256sum -c SHA256SUMS
所有条目显示 OK 后再部署。
5. 兼容性与限制
- 支持芯片：RK1828。
- 使用配套 RKNN Runtime 和驱动；运行前用
rknn-smi -v 检查设备端版本。
- 所选配置目录内的文件须配套使用。
6. 版权与许可证
源模型许可证见根目录 LICENSE；同时遵守 RKNN Toolkit 和 RKNN Runtime 许可条款。
