提出了多网格自适应量化方法(PO2系列),通过为每组张量动态选择最优的4位量化网格,用于大语言模型的训练后量化与预训练任务,在仅权重和权重+激活设置下均能一致提升模型精度,且部分变体可直接兼容现有TensorCore硬件。
机构:ISTA
来源:arXiv 2605.12327 | AI4Papers 论文推荐平台