提出RELISH(REgression with a Latent Iterative State Head),一种轻量级预测头架构,通过在冻结LLM的token表示上迭代交叉注意力更新隐状态,并用线性回归器映射为标量预测,直接实现文本回归;在五个数据集、四个LLM主干和两种训练范式下一致优于现有三类主流方法,同…
机构:UT Austin
来源:arXiv 2604.01206 | AI4Papers 论文推荐平台