OPD研究快照 · 2026-10-21
01 · Teacher template

同一教师,换一种读法,增益翻四倍。

MATH-500 · 16K · avg@4 · T0.6 · 学生 Qwen3-1.7B / 4B · 教师 Qwen3-8B

学生准确率

1.7B 与 4B;自蒸馏为 50 步,其余 150 步

思考模板教师 − 标准 OPD(1.7B)
+10.55pp
4B 上 +9.85;标准 OPD 在 4B 为 −0.35
自蒸馏 · 学生自己的思考模式作教师
89.0%
1.7B 同为 50 步:对 8B 教师学生 +1.3 [0.15, 2.5];4B 94.55 对 92.75
教师用什么模板读学生是关键变量,教师大小不是(14B 对 8B +0.8,不显著)。
E11B · E10D · PAIRED BOOTSTRAP
02 · Ceiling

32K 下,1.7B / 4B 学生接近自身思考模式。

MATH-500 · 32K 预算 · avg@4 · 三个尺寸

32K 准确率

每个尺寸:自身思考模式 · 8B 教师的学生 · 自蒸馏学生

强制交卷后 学生 − 自身思考模式(32K)
+6.5 · +0.6 · −0.4
0.6B · 1.7B · 4B:强制交卷后的准确率差,不能直接分解知识与模式的份额
表示层 α · 学生向思考模式方向移动的比例
0.75–0.96
思考模板学生;标准 OPD 与直接 RL 只有 0.22–0.45
OPD 写进权重的是模式的开关;外部知识不是自蒸馏收益的必要条件(自蒸馏已验 1.7B / 4B,0.6B 待补)。
BUDA · BUDF · TWR
03 · Budget

会解题,不等于按时交卷。

MATH-500 · 1.7B · 一次 32K 生成按预算截断重判 · 拖动看任一预算

准确率 × 生成预算

对数轴 2K–32K

预算8K
低预算的损失是没写完:强制交卷把 2K 从 17.8 拉回 72.85。RL 拿掉预算依赖,付出约 3.5 点上限;KL 锚定只付 1.75。
BUDA17 · BUDF · BUDA-E12B
04 · Coverage

一次命中会掉,多次采样的覆盖大体保住。

AIME24 · 32K · 30 题 × 16 样本 · pass@k

pass@k · 1.7B

k = 1 … 16(对数轴);P5→RL 为三个起点的均值

思考模板学生 pass@16 对 自身思考模式
≈
八个对照里 −3 到 +1 题;标准 OPD 只剩一半(33 对 80)
4K 短 RL · pass@1 / pass@16 变化
−12 / −3
三个起点均值;KL 锚定臂 pass@16 80.0,P5 起点 76.67
短 RL 压的主要是点估计,KL 锚定保住覆盖。
EVAL-PASSK-EXT · UNBIASED
05 · Short RL

锚在起点上的短 RL,压长度,未检出显著准确率损失。

1.7B · 从 P5 起点 GRPO 100 步 · 4K 回合 · AIME24 32K

准确率(avg@16)

起点与三种后续

平均长度(token)

同一组模型

纯 GRPO 丢 11 分换 1.8× 压缩;KL 锚定丢 3 分、仍压 1.5×;答后即停奖励从未被支付。三条 RL 链是三个起点,RL 数据顺序相同。
EXT32K-17KL · 17STOP · Q-020 / Q-021
06 · Termination

谁答完就停:同分布的教师才传停止。

终止探针 TERM4 · 最后一个答案框之后立即结束的概率 · 各模型自己的 MATH-500 生成

p(stop) 在最后一框之后

1.7B 为主;标注的为 4B

条件(10-21 修正)
学生在该格式下已会停,且教师在学生的上下文里也在那里给停止概率
自蒸馏、对位都满足;错位的外部教师不满足,教师越大越脏
今夜在跑的修法
首框后合并停止集合 · 尾段换非思考读法
Q-038 / Q-040,明早 s50 读数
学生学会了关思考块(0.80 = 思考模式),没学会答完就停。
PROBE-TERM4 · TERM2
07 · Across sizes

标准 OPD 随尺寸归零,思考模板不归零。

MATH-500 · 16K · 对基座的增益(pp)

对基座的增益

0.6B · 1.7B · 4B;两类教师读法

标准 OPD(非思考教师)
+10.8 → +2.8 → −0.4
与文献同向:学生越大,非思考路线增益越小
思考模板教师
+19.3 → +13.3 → +9.5
4B 上 AIME24 24 → 68(起点)、自蒸馏 75
只要教师开着思考模式读学生,增益就不随尺寸消失。
E11 · E11B · E10D
08 · The line

从一个分数,到按需长短。

论文主线与今夜
① 模式内化

把思考模式写进非思考形态

73.5 → 90.9

1.7B MATH-500 32K;自蒸馏即可(1.7B / 4B 已验,0.6B 待补)

→
② 终止条件

停止只从同分布教师传来

0.30 → 0.95

8B 教师的学生 → 自蒸馏学生;一步修法今夜起跑

→
③ 按需长短

锚定的短 RL 与难度路由

1.5×

KL 锚定压缩,未检出显著准确率损失;两教师按题路由下一步

stop2 · 连续停止奖励Q-034 · s10 过线继续,s25 复查
stopmerge · 首框后合并停止Q-038 · 预测框后续写 842 → <100
tail-swap · 尾段换读法Q-040 · 预测 p(stop) 0.12 → ≥0.7
下一步:一个训练环节内同时学会推理、终止和简洁,再推到工具调用与多模态。
RESEARCH PROGRAM §2B / §3
← → 翻页 · 悬停看数 · 所有数字按原始结果文件复核
01 / 08