本文系统探究长上下文推理中误导性干扰信息比例对模型性能的影响,发现并命名了“第一滴墨水”效应(少量强干扰即可致性能骤降且后续影响呈边际递减),并通过注意力机制理论与实证表明,仅靠后期过滤难以显著恢复性能,必须从源头将干扰比例降至近零,凸显了提升上游检索精度的关键性。
机构:Texas A&M
来源:arXiv 2605.10828 | AI4Papers 论文推荐平台