提出了一种模型无关的、轻量级的词元重要性可视化方法VISTA,通过扰动分析结合三维矩阵框架(角度偏差、模长偏差、维度重要性)生成词元级相关性图,无需反向传播或访问模型内部结构,从而在不增加计算开销的前提下提升对生成式AI系统输入感知机制的理解。
机构:Infosys
来源:arXiv 2604.02217 | AI4Papers 论文推荐平台