提出DyLLM,一种无需训练的推理加速框架,通过基于显著性(saliency)的token选择和部分注意力机制,在掩码扩散语言模型(MDLMs)中仅对动态变化的显著token重新计算前馈和注意力操作,从而提升并行解码吞吐量,同时基本保持基线模型精度。
机构:清华
来源:arXiv 2603.08026 | AI4Papers 论文推荐平台