提出了一种训练语言模型生成自我解释的方法,使用固定监督(来自早期检查点的反事实解释),但发现模型能够产生更忠实于自身当前行为的解释(内省耦合),在多个任务(如sycophancy和refusal)上有效且对噪声鲁棒。
机构:MIT
来源:arXiv 2606.32038 | AI4Papers 论文推荐平台