提出 TRACE INVERSION 方法,通过逆向重构推理路径所隐含的问题(query inversion),检测模型是否回答了与原始问题不一致的问题,从而识别幻觉并触发 abstention;该方法在四个前沿 LLM 和九个问答数据集上显著提升拒答性能,33/36 设置中优于强基线。
机构:MIT
来源:arXiv 2604.02230 | AI4Papers 论文推荐平台
AI4Papers 是一个以每日 arXiv 论文发现为入口的 AI 科研工作流平台,帮助研究者用最短时间掌握最新 AI/ML 前沿动态。
核心功能完全免费。高级 AI 功能(对比分析、深度研究、灵感工作台)支持自带兼容 API Key(如 OpenAI、通义千问)无限使用。
免费注册 | 使用教程