提出时空联合视觉令牌打分机制STTS,用于视频视觉语言模型中在ViT和LLM两端统一剪枝视觉令牌,无需文本条件或令牌合并,通过辅助时序损失与下游梯度学习空间重要性,在剪枝50%视觉令牌下实现训练与推理效率提升62%,平均性能仅下降0.7%。
机构:AI2
来源:arXiv 2603.18004 | AI4Papers 论文推荐平台