Sep, 2022

校准序列似然改进条件语言生成

PDF
TL;DR本文介绍了序列可能性校准（SLiC）的方法，在序列生成过程中较大束搜索大小时生成质量会下降，通过使用 SLiC 可以不用启用启发式方法，从而显著提高候选解的生成质量。与传统的 MLE 模型相比，我们在许多生成任务中都获得了更好的结果。
sequence likelihood calibrationmaximum likelihood estimationbeam search decodingdecoding heuristicsabstractive summarization
发现论文，激发创造
  • SLiC-HF: 序列似然校准与人类反馈

    本文介绍了如何使用 Sequence Likelihood Calibration（SLiC）从人类反馈中有效地学习，并证明了这种方法在人类评估实验中可以极大地提高监督微调基线和 PPO RLHF 的竞争力。同时，与过去的工作相比，使用 SLiC-HF 实现简单、易于调节且具有更高的计算效率。

    May, 2023

  • 上下文序列似然性：增强自然语言生成的置信分数

    通过为各种标记分配不同的权重，使用从基础语言模型中产生的注意力值来增强预测的序列概率，我们提出了上下文化的序列可能性（CSL）这一新的评分方法。在几个问答数据集和各种语言模型中，CSL 在预测生成质量方面显示出明显更高的可靠性。

    Jun, 2024

  • 在摘要模型中调整似然函数以求得一致性

    通过校准概率与自然语言推理模型一致性得分之间的关系，我们提出了一种改进抽象文本摘要模型的方法，该方法确保所生成的摘要更加一致且质量更高。

    Oct, 2023

  • 密度估计与序列生成之间的偏差

    通过比较几个密度估计器在五个机器翻译任务上的表现，我们发现，基于对数似然和 BLEU 的模型排名的相关性因比较的模型范围而异。

    Feb, 2020

  • 上下文感知选择性标签平滑以校准序列识别模型

    本文提出了一种基于上下文的选择性标签平滑方法（CASLS），以解决训练过程中的过度拟合问题以及置信度校准问题，通过利用顺序数据中的上下文依赖性来构造混淆矩阵，并使用类特定错误率来调整平滑强度的权重，从而实现自适应校准。在场景文本识别和语音识别等序列识别任务上的实验结果表明，本文所提出的方法可以实现最先进的性能。

    Mar, 2023

  • 逐句平滑规则化用于序列到序列学习

    通过使用句子级的规则化方法，解决了在序列模型训练中，最大似然估计普遍存在的非平滑预测概率问题，并取得了在神经机器翻译任务中优越的性能。

    Dec, 2018

  • 少样本重新校准语言模型

    通过提出新的少样本特定切片校准框架，使语言模型能够提取出对于任意切片的校准信心估计，可以识别出领域特定的信心阈值，从而改善了准确度并且实验中相较于温度缩放法在 MMLU 上的校准误差提高了 16%。

    Mar, 2024

  • SequenceMatch: 带回溯的自回归序列模型的模仿学习

    研究提出了一个名为 SequenceMatch 的方法，将序列生成问题转化成了一种模仿学习问题，并采用回溯策略和特定的训练目标以优化文本生成过程中的错误，经实验证明，该方法在语言模型的文本生成任务中比 MLE 更加优秀。

    Jun, 2023

  • 序列置信度校准的感知和语义感知正则化

    本文提出了一种注意变化、语义相关的序列正则化框架去加强模型对相关序列的监督，同时使用自适应校正强度模块来实现对样本困难度的更细粒度正则化，并在多项序列识别任务中达到先进水平的效果。

    May, 2023

  • 大型语言模型中的指导位置在序列生成中的作用

    通过改变任务指令在输入句子之后的位置，我们提出了一种增强大型语言模型的指令遵循功能的方法，该方法可以显著改善条件序列生成的零样本性能。

    Aug, 2023