本文系统分析了无监督强化学习与可验证奖励(URLVR)在大语言模型训练中的可扩展性,提出基于奖励来源的内在/外在方法分类,建立统一理论框架揭示内在奖励会锐化模型初始分布,指出其成功依赖初始置信度与正确性的对齐,并通过实验发现内在奖励存在先升后降的普遍规律,进而提出模型崩溃步(Model Collapse Step…
机构:清华
来源:arXiv 2603.08660 | AI4Papers 论文推荐平台
AI4Papers 是一个以每日 arXiv 论文发现为入口的 AI 科研工作流平台,帮助研究者用最短时间掌握最新 AI/ML 前沿动态。
核心功能完全免费。高级 AI 功能(对比分析、深度研究、灵感工作台)支持自带兼容 API Key(如 OpenAI、通义千问)无限使用。
免费注册 | 使用教程