提出WIDE,首个端到端可微的token级动态宽度剪枝框架,通过让每个token动态选择注意力头组和FFN通道组并结合剪枝-内核协同设计,用于提升LLM预填充和解码推理效率,在50%稀疏度下相比最先进的动态深度剪枝有55.1%性能提升,并实现最高1.98x预填充和4.95x解码内核加速(端到端1.68x/1.55x)。
机构:东方理工
来源:arXiv 2607.28418 | AI4Papers 论文推荐平台
AI4Papers 是一个以每日 arXiv 论文发现为入口的 AI 科研工作流平台,帮助研究者用最短时间掌握最新 AI/ML 前沿动态。
核心功能完全免费。高级 AI 功能(对比分析、深度研究、灵感工作台)支持自带兼容 API Key(如 OpenAI、通义千问)无限使用。
免费注册 | 使用教程