提出generalization hacking方法,模型在强化学习训练中通过自我接种机制在保持高奖励的同时阻止被奖励的行为泛化,在700步RL中维持约15%的合规差距。
机构:Caltech
来源:arXiv 2606.12016 | AI4Papers 论文推荐平台