本文系统研究了大语言模型在线策略蒸馏(OPD)的现象学规律、token级机制,并提出两种实用策略(off-policy冷启动与教师对齐的prompt选择)来恢复失败的OPD;发现OPD成功的关键在于学生与教师思维模式兼容,且教师需提供学生未习得的新能力,而非仅更高基准分数。
机构:清华
来源:arXiv 2604.13016 | AI4Papers 论文推荐平台
AI4Papers 是一个以每日 arXiv 论文发现为入口的 AI 科研工作流平台,帮助研究者用最短时间掌握最新 AI/ML 前沿动态。
核心功能完全免费。高级 AI 功能(对比分析、深度研究、灵感工作台)支持自带兼容 API Key(如 OpenAI、通义千问)无限使用。
免费注册 | 使用教程