Mar, 2019

使用匹配条件变分自编码器实现多样化回复建议

PDF
TL;DR针对商业即时通讯系统中的自动回复建议生成进行多样化处理，包括使用信息检索结构实现对话模型、通过潜变量模型实现回复建议的生成以及使用约束抽样方法优化变分推断的效率等，实验证明在保证相关性的情况下，该方法能够使回复多样性提升 30-40%，并取得 5% 的点击率提升。
automated reply suggestioninstant-messaging systemconversation modellatent variable modelconditional variational auto encoder
发现论文，激发创造
  • 短文本对话生成中的离散 CVAE

    本文研究主要通过在条件变分自编码器中引入具有显式语义意义的离散潜变量，从而提高短文本对话生成质量并增加多样性。实验证明，该模型在自动评估和人类评估中表现出色。

    Nov, 2019

  • 使用条件变分自编码器为神经对话模型学习语篇级多样性

    本研究提出了一种基于条件变分自编码器（CVAE）的框架，该框架利用潜在变量来学习潜在意图的分布，并仅使用贪婪解码器生成多样化响应，其可以更好地捕获感性多样性和提高决策能力。实验证明，与基线方法相比，所提出的模型可以生成更丰富的响应，并且具有更好的表现。

    Mar, 2017

  • 基于 Transformer 的有条件变分自编码器对话生成

    该论文介绍了一种新的 CVAE-T 对话模型，基于 Transformer 的结构，通过训练包含正负样本的数据并引入正则化项，可以在生成回复时提高信息量。

    Oct, 2022

  • 利用自分离条件变分自编码器生成相关和连贯的对话回应

    通过引入自身分离的条件变分自编码器（SepaCVAE），将组信息引入到规范化的潜变量中，进一步增强了 CVAE 通过提高响应的相关性和连贯性同时保持它们的多样性和信息量在开放领域对话生成任务中的性能。

    Jun, 2021

  • 通过自标记条件变分自编码器提高多样文本生成

    本文介绍了一种基于自标记变分自编码器（SLCVAE）的方法，以解决 CVAE 模型中 KL-vanishing 问题，提高文本生成多样性。同时，提供了一个大型本地一对多数据集，支持此方法的研究。

    Mar, 2019

  • 高级条件变分自编码器（A-CVAE）：通过解离潜在特征表示进行开放领域对话生成解释的探索

    本研究旨在通过介绍一种认知方法，利用先前的知识驱动生成模型，实现在中尺度特征分离中调节潜在变量，使得深度学习的开放领域对话系统可以生成更高质量和更可解释性的对话。

    Jul, 2022

  • 将因果分析融入多样化和逻辑回复生成中

    本文研究了 Conditional Variational AutoEncoder（CVAE）生成回答时常常与原问题不相关或缺乏逻辑性的原因，并提出了一种寻找中介变量和缓解对话中混淆偏差的方法。在此基础上，提出了动态话题图引导的条件变分自动编码器（TGG-CVAE）模型，用于补充语义空间并减少响应中混淆偏差。实验证明，所提出的模型能够生成相关且信息量丰富的回答，并在自动评估和人类评估方面优于现有的最先进模型。

    Sep, 2022

  • 协同过滤的变分自编码器

    本研究提出一种基于 VAE 的非线性概率模型，用于解决协作过滤问题，相对于现有的线性因子模型，具有更强的建模能力，并使用贝叶斯推断进行参数估计来得到更好的泛化性能。本方法在现有多个数据集上均取得了显著优异的性能表现，并对使用多项式分布作为似然函数进行了比较实验，分析了使用贝叶斯方法的优缺点及适用场景。

    Feb, 2018

  • 提升变分个性化和移情对话代理的上下文连贯性

    通过引入 Uncertainty Aware CVAE 框架来近似和整合响应生成过程中的 aleatoric 不确定性，改善个性化和移情式对话生成中生成响应的上下文连贯性。同时，研究者们提出了一种新的自动度量方法来衡量生成响应的上下文连贯性，并且该度量与人类的判断显著相关。

    Feb, 2022

  • 多样化回复生成的变分 Transformer

    本文提出了变分 Transformer（VT）算法，将变分自注意力前馈序列模型与 CVAE 的变分性质相结合，从而有效处理对话响应生成领域中高熵任务的问题，并在多个对话数据集上获得了性能提升。

    Mar, 2020