Tag Archive
distillation
Posts tagged with this topic. 3 posts
- Aug 30, 2026Privileged Information 与 Dynamic Rubrics:七篇 Post-Training 论文串读与实测
七篇 Post-Training 论文串读:在 Outcome Reward 与 Full Reference 之间,如何用特权信息与动态量规打破困境。
- Jul 08, 2026On-Policy Self-Distillation (OPSD) 的机制困境与 2026 上半年改进工作复盘
从信息不对称、容量间隙到轨迹修正与信号净化:系统复盘 2026 上半年 On-Policy Self-Distillation (OPSD) 的核心痛点与改进工作。
- Jun 05, 2026OPD 如何重构后训练的不可能三角
后训练希望学习信号同时准确、稠密、易得,但现实里很难三者兼得。OPD 提供了一种新的组织方式——在学生自己的轨迹上,把教师、验证器、环境反馈组织成密集监督。