提出SortedRL,一种在线长度感知调度策略,通过按输出长度重排序rollout样本、优先处理短样本以实现早期更新,并结合缓存机制控制off-policy程度及专用RL基础设施,显著提升LLM强化学习训练效率,在减少训练气泡比超50%的同时,使用相同数据量在多项数学与逻辑任务上取得3.9%至18.4%的性能提升。
机构:Microsoft
来源:arXiv 2603.23414 | AI4Papers 论文推荐平台
AI4Papers 是一个以每日 arXiv 论文发现为入口的 AI 科研工作流平台,帮助研究者用最短时间掌握最新 AI/ML 前沿动态。
核心功能完全免费。高级 AI 功能(对比分析、深度研究、灵感工作台)支持自带兼容 API Key(如 OpenAI、通义千问)无限使用。
免费注册 | 使用教程