提出ORBIT方法,针对生成式检索微调中的灾难性遗忘问题,通过动态跟踪微调模型与初始模型的参数距离并引入权重平均策略约束模型漂移,在保持基础语言与检索性能的同时显著优于现有正则化与持续学习基线。
机构:JHU
来源:arXiv 2605.12419 | AI4Papers 论文推荐平台