本文研究了语言模型作为智能体行为监控器在超长上下文下的性能退化问题,发现长上下文会显著降低模型识别危险动作的准确率,并验证了通过插入定期提醒等提示词优化策略可部分缓解该问题。
机构:Anthropic
来源:arXiv 2605.12366 | AI4Papers 论文推荐平台