提出并评估KV缓存卸载技术在上下文密集型任务(如Text2JSON)上的表现,发现其在Llama 3和Qwen 3模型上显著降级,归因于键的低秩投影和不可靠的地标点,并提出更简单的替代策略以提升多模型族和多基准的准确性。
机构:Yandex
来源:arXiv 2604.08426 | AI4Papers 论文推荐平台