May, 2018

DialogWAE: 条件Wasserstein自编码器的多模态响应生成

HTML
PDF
TL;DR提出了 DialogWAE，这是一种特殊设计的条件 WAE，用于对话建模，能够通过在潜变量空间内训练 GAN 来模拟数据的分布，并进一步发展了高斯混合先验网络，能够产生具有更连贯、更丰富和更多样化响应的结果。
发现论文，激发创造
  • 使用条件变分自编码器为神经对话模型学习语篇级多样性

    本研究提出了一种基于条件变分自编码器（CVAE）的框架，该框架利用潜在变量来学习潜在意图的分布，并仅使用贪婪解码器生成多样化响应，其可以更好地捕获感性多样性和提高决策能力。实验证明，与基线方法相比，所提出的模型可以生成更丰富的响应，并且具有更好的表现。

    Mar, 2017

  • 将判别学习中的知识转移至生成式视觉对话模型的最佳方法

    本文提出一种新的训练神经序列模型，将判别式对话模型的知识传递到生成式对话模型中，通过Gumbel-Softmax逼近离散分布，建立了一个可端对端训练的生成式视觉对话模型，并在视觉对话数据集上显著优于现有模型(10个问题中有2.67个问题得分有所提高)。

    Jun, 2017

  • 一种变分对话建模的分层潜变结构

    通过使用层次潜在变量的结构和使用发言丢失正则化，我们提出一个名为VHCR的新模型，该模型成功地利用了潜在变量，并在会话生成方面优于现有技术。

    Apr, 2018

  • 基于熵的数据过滤来提升神经对话模型

    采用基于熵的方法，从对话数据集中过滤通用语句，以改善聊天机器人生成开放式回复时的多样性。通过17种评估指标的比较，我们证明使用经过此种过滤的数据集训练对话模型可以提高对话质量。

    May, 2019

  • DialoGPT：大规模生成式预训练技术在对话响应生成中的应用

    本文介绍了 DialoGPT，一种大型的、可调整的神经对话响应生成模型，它在 Reddit 上 2005 年至 2017 年的时间跨度内提取的 1.47 亿条对话样本上进行训练。在单轮对话设置中，DialoGPT 能够达到接近人类的性能水平，能够生成比强基线系统更相关、更富有内涵和更具上下文一致性的响应。该预训练模型和训练流程已公开发布，以促进神经响应生成研究和更智能的开放域对话系统的开发。

    Nov, 2019

  • 短文本对话生成中的离散CVAE

    本文研究主要通过在条件变分自编码器中引入具有显式语义意义的离散潜变量，从而提高短文本对话生成质量并增加多样性。实验证明，该模型在自动评估和人类评估中表现出色。

    Nov, 2019

  • 后验生成对抗网络：朝着信息丰富和连贯的响应生成

    本研究提出了一种基于预测-生成-转移的神经对话模型，并使用后验生成对抗网络的前向和反向判别器来进一步建模。 实验结果表明，这种方法有效地提高了生成响应信息量和连贯性，并证实了考虑两种评估角度的优势。

    Mar, 2020

  • 利用语篇互信息最大化的对话数据表示学习

    为了实现有效的会话建模，本文提出了基于结构的相互信息损失函数DMI来训练对话表示模型，并在九个不同对话建模任务上展开了广泛评估，结果表明我们提出的DMI-based模型表现超过了强基线。

    Dec, 2021

  • DialogVED：一个预训练的潜变量编码器解码器模型，用于对话响应生成

    本文提出了一个新的对话预训练框架DialogVED，使用Reddit进行了预训练，并在PersonaChat，DailyDialog和DSTC7-AVSD数据集上进行了实验，结果表明我们的模型在所有这些数据集上实现了最新的最优结果，其中主要挑战是生成相关且多样化的响应。

    Apr, 2022

  • 统一多模态模型结合非可能训练用于视觉对话

    本文提出了一种名为UniMM-UL的统一多模态模型，它使用Unlikelihood Training方法来探索负样本中使用的有用知识，具有比先前工作更好的生成结果和与最先进技术相媲美的区分结果，并支持视觉对话理解和生成的多任务学习。

    Nov, 2022