1.7B 与 4B;自蒸馏为 50 步,其余 150 步
每个尺寸:自身思考模式 · 8B 教师的学生 · 自蒸馏学生
对数轴 2K–32K
k = 1 … 16(对数轴);P5→RL 为三个起点的均值
起点与三种后续
同一组模型
1.7B 为主;标注的为 4B
0.6B · 1.7B · 4B;两类教师读法
1.7B MATH-500 32K;自蒸馏即可(1.7B / 4B 已验,0.6B 待补)
8B 教师的学生 → 自蒸馏学生;一步修法今夜起跑
KL 锚定压缩,未检出显著准确率损失;两教师按题路由下一步