KDDFeb, 2020

通过实例加权利用补充的最后话语选择提升多轮响应选择模型

PDF
TL;DR利用资源本身的相关性析出不同类型的监督信号来降低训练数据噪声对响应模型性能的影响，通过主任务 - 互补任务对将互补任务输出转换为主任务实例的权重值，对话系统响应选择模型得到了显著提高，并在两个公共数据集上进行了全面的实验。
发现论文，激发创造
  • 多轮对话中的对比学习句子重写

    该论文介绍了如何使用对比学习和多任务学习相结合的方法来提高上下文建模中的缺失语句重写系统的目的。实验表明，该方法在几个公共数据集上均达到了最先进的性能。

    Mar, 2022

  • 多轮对话中基于两层监督对比学习的响应选择

    该论文研究了在多轮对话中选择最适当的回应是一个检索型对话系统的关键问题，提出了一种基于受监督对比学习的新方法并应用于回应选取中，利用句子标记交换和句子重排序的技术，经过实验验证，该方法明显优于基线和目前各种方法。

    Mar, 2022

  • 神经对话模型的实例加权：不是所有对话都是平等的

    本文研究了利用加权模型解决神经会话模型训练过程中困难的问题，并在电影和电视字幕训练数据上证明该方法能提高模型性能。

    Apr, 2017

  • 使用自监督任务学习有效的上下文 - 回复匹配模型， 用于基于检索的对话

    本研究提出了一种基于预训练语言模型的上下文相应匹配模型，引入了四个自我监督任务，并与 auxiliary tasks 一起多任务训练 PLM-based 响应选择模型，旨在提高多轮响应选择的准确性。实验结果表明，在检索式对话中，引入辅助自我监督任务对多轮响应选择带来了显著的改进，本模型在两个数据集上都达到了最新的最优结果。

    Sep, 2020

  • 开放域对话响应选择的系统评估

    本研究对开源聊天机器人的多种回复生成方法进行了系统评估，提出了利用手动注释筛选出的多个正向回复和负向回复，从而提高模型效果的新训练数据，并实验证明性能较之采用对抗训练数据有更显著提升。

    Aug, 2022

  • 使用辅助任务训练简单有效的多轮对话生成模型

    本研究探讨多轮开放域对话的响应生成，并通过辅助任务实现上下文理解，提高了生成模型的质量，同时具有更快的解码速度。

    Apr, 2020

  • 生成对抗性负面回复以提升响应排名与评估的鲁棒性

    发展神经对话模型需要超越 “内容相似性”，本文提出用对抗性负面样本提高模型的实用性。实验表明，我们的方法在多个数据集上均表现优异。

    Jun, 2021

  • 以响应选择为辅助任务的高效任务导向型对话系统

    本文提出两种具有辅助任务的模型，用于响应选择，并在 MultiWOZ 2.1 数据集上取得了 107.5 和 108.3 的综合分数，优于具有三倍以上的参数基线模型。

    Aug, 2022

  • 在基于知识的任务导向对话系统中采用加权负采样进行外部知识选择

    本文旨在构建一个具有鲁棒性的口语对话系统，通过引入未结构化的外部知识和采用数据构建、加权负采样、后训练以及风格转换等四种高级方法，完成了 DSTC10-Track2-Task2 的任务，实验表明我们的模型在客观评估中排名第 7，人工评估中排名第 6。

    Sep, 2022

  • 面向任务的对话系统中神经响应选择的训练

    通过在大型通用领域对话语料库上预训练反应选择模型，然后利用小型特定领域数据微调预先训练的模型，本论文提出了一种有效的方法来部署任务导向对话中的响应选择，取得了很好的效果。在六个不同的应用领域，从电子商务到银行业，本方法都表现出了良好的效果。

    Jun, 2019