Sxy

训练时对文本做了规范化（还原 HTML 转义、链接替换为 http），推理时建议做同样的处理， 见项目中的 triage/preprocess.py。 - 数据：Kaggle NLP with Disaster Tweets 的 train.csv，其中 id ≤ 8696 的 6090 条用于训练，其余 1523 条作为验证集。 - 超参数：BERT 学习率 2e-5，ModernBERT 学习率 5e-5；2 个 epoch；batch size 32；maxseqlength 128； weight decay 0.01；warmup 0.1；bf16；随机种子 42。 同一配置 3 个随机种子的 Macro-F1：BERT 81.63 ± 0.11，ModernBERT 81.70 ± 1.11，两者的差异在种子波动范围内。 - 仅支持英文；比喻性用法（如 "this mixtape is fire"）仍可能误判。 - 两个模型都只在推文（≤ 82 token）上微调，ModernBERT 在长文本上的效果没有经过标注数据验证。 - 模型权重：CC BY-NC 4.0。基于 Kaggle 比赛数据训练，仅限非商业用途；使用时还需遵守该比赛规则中对数据的限制。 - 基础模型：bert-base-uncased、ModernBERT-base（均为 Apache-2.0）。