SAVRN
Search Contact SAVRN

Independent publisher

Vincent

mississippiu

Models in Library1
Datasets in Library0
Models on Hugging Face6
Followers

Models

每个目录是一次训练:a.pt 是可训练状态(仅 FFN 三矩阵,264.2M),a.step1000.pt 是中间存点, 门控的 run 另有 folded.pt(折叠成逐层宽度,评测用这个),train.log 含每步损失与留出集曲线。 它是旧批次的门控 75%(原名 c32kgate2304):旧数据池(150M token,同一份数据过 3.49 遍, 预期分数与逐任务明细在仓库的 EVALUATING.md,摘要: 评测它必须用 --window 128,因为它是按 128–256 训的。用 512 评它会低估 —— 那是它没训练过的 regime。 不要把它的分数当作方法的结果。 新批次的门控 75%(b2gate2304)用新数据池和连续窗口重训,

Open weights apache-2.0