Atemoya

Model · Text generation

Qwen3.5-0.8B-Japanese-SFT-v2.5

Atemoya

Qwen/Qwen3.5-0.8B を日本語向けに追加学習した、非公式の派生モデルです。Qwen チームとは関係ありません。v2 の続きで、次の大きな版（v3）に向けた途中の版です。 - 思考モードで理系の問題を解けるようになった：日本語で短く考えてから答えます（MMLU-Pro 理科 4.0% → 36.1%、MGSM 日本語 0.0% → 27.4%。どちらも思考あり・上限 4,096 トークン、複数回の平均） An unofficial Japanese fine-tune of Qwen3.5-0.8B (v2.5). Adds a short Japanese thinking mode (MMLU-Pro science 36.1% (mean of 3 runs), MGSM-ja 27.4% with thinking at a 4,096-token cap; v2: 4.0% / 0.0%), thinking-mode chat, and Japanese code review, while keeping v2's chat quality. Still a small model: it hallucinates facts and is weaker than the original model at long, careful calculation. - GGUF 版（llama.cpp・LM Studio 用）：Takenoko12345678/Qwen3.5-0.8B-Japanese-SFT-v2.5-GGUF…

Dataset · Text generation

Qwen3.5-0.8B-Japanese-SFT-v2.5-Data

Atemoya

Takenoko12345678/Qwen3.5-0.8B-Japanese-SFT-v2.5 の追加学習に使ったデータを、学習に使ったそのままの形で公開しています。中身は変えず、1件ごとに出典（source）・ライセンス（license）・文を書いたモデル（generator）の欄だけを足しています。 学習・データ作りのスクリプトは Pitcher プロジェクト の sft/q08bv25/ にあります。 2段目の chatthink 以外の 3,000件は、1段目のデータからの復習用（半分は理系）です。 思考ありの手本は、学習時に「 考える部分 答え」の形にしています（元の Qwen3.5 のチャットテンプレートで enablethinking=True）。 - このデータのために新しく書かせた文は、すべて Qwen/Qwen3.8-27B（Apache 2.0）によるものです。理系の問題の日本語訳と解き方、会話の手本、コードの回答、思考の部分がこれに当たります。tengentoppa・formatdrill は、公開済みの Japanese-SFT-Tengentoppa-Curated-12K の行をそのまま使っています（その元データの作り方は、元データの説明を見てください） - コードの手本の選別には Gemma 4 31B の採点を使っています（文は書いていません）。詳しくは Japanese-Code-Review-OSS の説明を見てください…