提出对基于对比激活相加(CAA)的激活引导向量进行系统性安全审计,发现其会显著改变大语言模型的越狱攻击成功率(ASR),最高可提升57%或降低50%,根源在于引导向量与模型拒绝行为方向存在几何重叠,揭示了可控性与安全性之间的根本权衡。
机构:慕尼黑工大
来源:arXiv 2603.24543 | AI4Papers 论文推荐平台