本文提出了一种针对大语言模型量化过程的新型攻击方法,通过在权重矩阵中注入异常值,使模型在采用AWQ、GPTQ等先进量化方法后发生权重坍塌并触发恶意行为,而在未量化时保持正常表现,从而揭示了广泛使用的复杂量化方案面临的安全风险。
机构:苏黎世联邦理工
来源:arXiv 2605.15152 | AI4Papers 论文推荐平台