本文研究了大语言模型中序列概率与正确性之间的关系,发现虽然在固定数据集内较高的序列概率通常能预测正确性,但通过改变解码方法或超参数来提高序列概率并不能可靠地提升准确性,为解码和自我改进提供了实践指导。
机构:马普所
来源:arXiv 2606.27359 | AI4Papers 论文推荐平台