提出贪心随机搜索方法评估大模型无语义结构“垃圾化”攻击的求解难度,结果表明该任务虽比常规越狱更难但简单策略仍可高效恢复自然后门,且发现这些后门序列位于模型分布的低概率区域。
机构:蔚蓝海岸大学/CNRS
来源:arXiv 2605.05116 | AI4Papers 论文推荐平台