提出用优先级图建模大语言模型在不同情境下对指令与价值观的偏好关系,揭示其动态性与不一致性带来的对齐难题,并发现‘优先级劫持’这一新型安全漏洞;为此设计运行时外部验证机制以增强鲁棒性,同时指出部分伦理价值困境在哲学上不可约化,构成AI对齐的长期开放挑战。
机构:港科大
来源:arXiv 2603.15527 | AI4Papers 论文推荐平台
AI4Papers 是一个以每日 arXiv 论文发现为入口的 AI 科研工作流平台,帮助研究者用最短时间掌握最新 AI/ML 前沿动态。
核心功能完全免费。高级 AI 功能(对比分析、深度研究、灵感工作台)支持自带兼容 API Key(如 OpenAI、通义千问)无限使用。
免费注册 | 使用教程