Nov, 2019

使用不可能性训练减少不一致对话的发生

PDF
TL;DR本文使用扩展的反似然损失函数及正则化方法解决了生成式对话模型中含复制文本、重复、高频词汇和逻辑缺陷等问题，并通过采集数据并应用反似然来提高逻辑一致性，实现了具有更强推理能力的生成式对话模型，我们还在多项对话任务中验证了所提出的方法的有效性。
generative dialogue modelsunlikelihood lossregularizationlogical consistencydialogue tasks
发现论文，激发创造
  • 隐式不可能性训练：利用强化学习提升神经文本生成

    本文提出在语言模型中使用策略梯度强化学习进行微调，以直接优化更好的文本生成，将这种方法应用于最小化生成文本中的重复，并展示了当与 unlikelihood training 相结合时，我们的方法进一步减少了重复而未影响语言模型质量。此外，我们还评估了其他方法来改进训练和解码时间，并使用各种度量标准来比较它们，以达到更好的文本生成输出的控制。

    Jan, 2021

  • 非极大化训练的神经文本生成

    提出一种基于非似然训练的神经文本生成方法，有效降低生成文本的重复性，将标准束搜索的输出性能提升至目前最优，并提供了一种强有力的替代神经文本生成中已有技术的方法。

    Aug, 2019

  • 不确定性感知的非似然学习改进生成式情感四元组预测

    本文旨在提出一种控制生成令牌级别的模板不可知方法，即引入蒙特卡罗丢失、边缘非可能性学习和最小化熵等方法，以提高原始学习效果和减少错误。实验表明，该方法在各种生成模板上均具有良好的效果。

    Jun, 2023

  • 统一多模态模型结合非可能训练用于视觉对话

    本文提出了一种名为 UniMM-UL 的统一多模态模型，它使用 Unlikelihood Training 方法来探索负样本中使用的有用知识，具有比先前工作更好的生成结果和与最先进技术相媲美的区分结果，并支持视觉对话理解和生成的多任务学习。

    Nov, 2022

  • 通过负抽取实现神经对话生成的多样化

    本文提出一种新的负面训练方法，即 “负面蒸馏”，使用多级负面知识来避免生成对话模型中的泛化回复问题。 实验结果表明，与以前的负面训练方法相比，我们的方法性能显着提高。

    May, 2022

  • 神经反可能性训练的多元关键词生成

    本文从多样性的角度研究了序列到序列关键词生成模型，并针对使用 MLE 训练生成的输出存在的重复关键字的问题，提出了训练过程中的 UL 目标函数和 K 步预测目标函数，这两种方法有效地提升了生成关键字的多样性和输出质量。

    Oct, 2020

  • 通过损失截断改善自然语言生成

    本文提出了一种利用模型与参考之间的可区分性来处理无效参考的算法，称为损失截断。与常用的 log 损失相比，该方法可以更好地应对嘈杂和无效的参考，并取得了更好的实验效果，生成的样本拥有超越基线并与人类参考相匹配的事实准确性评分。

    Apr, 2020

  • 一种简单的对比学习目标，以缓解神经文本退化

    我们提出了对比记号学习目标，它继承了交叉熵和不可能性训练的优点，同时避免了它们的局限性，通过在语言建模和开放域对话生成任务中的全面实验，我们发现所提出的对比记号目标可以使生成的文本重复性减少，提高了生成质量，达到了文本退化的最新性能水平。

    May, 2022

  • 大型语言模型的多方面重复抑制和内容调整

    本论文提出一种结合精准和非精准重复抑制技术的自然语言生成方法，使用 token 和序列级别的不可能度量进行训练，推理和后处理，从而控制 LLM 的重复和内容质量。经过实验验证，该方法能够有效地抑制重复和确保内容质量。

    Apr, 2023

  • 不一致的对话回应及其恢复方法

    研究论文强调了聊天系统的一致性问题，介绍了一个用于研究对话一致性的数据集和一系列任务，实验证明该数据集对于检测和解决会话中的不一致性有显著帮助，同时发现当前流行的大型语言模型如 ChatGPT 在解决不一致性方面表现良好但在检测方面仍存在困难。

    Jan, 2024