提出多token激活修补框架,发现不同拒绝 steering 方法在相同层上利用功能可互换的电路,揭示 steering 主要通过 OV 电路影响注意力机制而非 QK 电路,并据此实现 steering 向量 90% 稀疏化同时保持大部分性能。
机构:马里兰大学
来源:arXiv 2604.08524 | AI4Papers 论文推荐平台
AI4Papers 是一个以每日 arXiv 论文发现为入口的 AI 科研工作流平台,帮助研究者用最短时间掌握最新 AI/ML 前沿动态。
核心功能完全免费。高级 AI 功能(对比分析、深度研究、灵感工作台)支持自带兼容 API Key(如 OpenAI、通义千问)无限使用。
免费注册 | 使用教程