提出基于最短路径规划的可控合成环境,用于解构大语言模型在组合式序列优化问题中的泛化能力,发现模型具备强空间迁移能力但普遍因递归不稳定性而在长度扩展上失败;进一步分析表明训练数据覆盖决定能力上限,强化学习可提升训练稳定性但无法突破该上限,推理时缩放策略能提升性能却无法挽救长度扩展失败。
机构:Google
来源:arXiv 2604.15306 | AI4Papers 论文推荐平台