提出CARE方法,一种协方差感知且动态调优秩分配的多头潜在注意力(MLA)转换流程,通过激活保持分解、调整秩分配和KV奇偶映射,在固定KV缓存宽度下提升转换后的注意力保真度,显著优于均匀秩SVD基线。
机构:Together AI
来源:arXiv 2603.17946 | AI4Papers 论文推荐平台