Tag Archive
on-policy-distillation
Posts tagged with this topic. 2 posts
- Jul 08, 2026On-Policy Self-Distillation (OPSD) 的机制困境与 2026 上半年改进工作复盘
从信息不对称、容量间隙到轨迹修正与信号净化:系统复盘 2026 上半年 On-Policy Self-Distillation (OPSD) 的核心痛点与改进工作。
- Jun 05, 2026OPD 如何重构后训练的不可能三角
后训练希望学习信号同时准确、稠密、易得,但现实里很难三者兼得。OPD 提供了一种新的组织方式——在学生自己的轨迹上,把教师、验证器、环境反馈组织成密集监督。