提出IndexCache方法,通过跨层索引重用减少DeepSeek Sparse Attention(DSA)中 indexer的重复计算,在保留少量Full层 indexer的同时让其余Shared层复用其top-k索引,从而显著加速长上下文推理,实测在30B模型上移除75% indexer计算量并获得最高1.…
机构:清华
来源:arXiv 2603.12201 | AI4Papers 论文推荐平台