Wulezhi

基于 Qwen3.8-27B（qwen35 架构，稠密 27B，48 线性注意力 + 16 全注意力，带视觉模块）的佛学辞典微调模型， 使用 佛光大辞典 与 中华佛教大百科全书 的语料做 35,841 条中文佛教 SFT 微调， 各目录的 quantizationconfig 不同（quantmethod 各异），加载命令需对应： 未量化的层主要是三类（各版本 config.json 的 ignore 字段可查）： 1. 线性注意力（Gated DeltaNet / linearattn）投影：nvfp4a16 明确忽略了 240 条、autoawq 忽略 inproja / inprojb —— 量化工具链对线性注意力算子支持不完整，硬量化容易掉点； 2. 视觉塔 visual（约 110 个模块）：对精度敏感，且纯文本部署可用 --language-model-only 直接跳过； 3. lmhead 与各 norm / bias / embedding：量化收益小、风险大。 - ① SM75 没有 FP8 硬件能力（FP8 张量核从 Ada / SM89 才有）。所以在 2080Ti 上 FP8 权重只能走社区 fork 的模拟路径（Marlin fallback + 实时反量化），实际行为是"权重 FP8 + 计算 BF16"（weight-only），激活不参与量化 —— 这也是为什么单独做了一份 block 128×128 的 FP8（面向通用 vLLM 的 per-channel 那份在 SM75 上加载不了）。 - ② 覆盖率低 ≠ 残次品：BF16…

基于 Qwen3.6-27B 的佛学辞典微调模型。本仓库提供 GGUF（llama.cpp / Ollama 可直接加载） 与 可外挂的 LoRA 适配器 两种用法。 - 共 35,841 条中文佛教 SFT（科判注解、义理问答、经文释义） - 与 Qwen3.8-27B-Buddhist 共用同一批语料 - Q6K 单文件约 22.1GB，双卡 44GB 可全量上卡（-ngl 99）。 - 若只外挂 LoRA，请使用同源的基座权重，否则适配会失效。