AAAIFeb, 2018

在句子生成中使用鉴别器：一种 Gibbs 采样方法

PDF
TL;DR本论文提出了一种使用 Gibbs Sampling 的新框架来生成限制条件下的句子，通过逐步迭代更新候选句子，并用新单词取代旧单词，证明了该方法生成的句子具有合理性和多样性。
sentence generationgibbs samplingneural networksplausible sentencesdiverse sentences
发现论文，激发创造
  • 学习使用协同判别器进行写作

    通过学习多个判别模型的混合，帮助生成自然语言的循环神经网络更好地表达与 Grice 最大化原则这样的语言规律相关的交际目标，从而提高生成文本的连贯性、风格和信息质量。

    May, 2018

  • CGMH: 用 Metropolis-Hastings 采样实现句子生成限制

    本论文提出 CGMH，一种使用 Metropolis-Hastings 采样的新方法，可用于受约束的句子生成，包括多个关键字等复杂约束条件以及无监督的句子改写和纠错。CGMH 在各种任务中表现出与以前的句子生成监督方法相比很高的性能。

    Nov, 2018

  • 从连续空间生成句子

    本文介绍一种基于 RNN 和 VAE 的生成模型，该模型可以显式地模拟句子的整体特征，并通过分布式的潜在表示编码句子的风格、主题和高级语法特征。模型生成多样且完整的句子，能够插值生成连贯且新颖的句子，并用于填补缺失的词，同时探索了潜在句子空间的许多有趣属性。

    Nov, 2015

  • 面向约束句子生成的前向和后向语言建模

    本研究提出了一种新的前向后向语言模型，能够在特定词的约束下生成自然语言文本，表现优于传统的顺序语言模型。

    Dec, 2015

  • 使用 Gumbel-CRFs 进行潜在模板归纳

    本文中，我们探索使用结构化变分自编码器来推断句子生成的潜在模板，使用软，连续松弛来利用重参数化进行训练，并提出了 Gumbel-CRF 方法。它是 CRF 采样算法的连续松弛，使用了一种松弛的前向 - 向后采样方法。通过使用重新参数化的梯度估计器，Gumbel-CRF 方法可以提供更稳定的梯度估计，同时通过训练我们展示了它学习到可解释的模板，可以用于在测试阶段控制解码器。我们通过将方法应用于数据文本生成和无监督释义生成实验中，证明了我们方法的有效性。

    Nov, 2020

  • 使用卷积神经网络学习通用的句子表示

    本文提出了基于 CNN 编码器和 LSTM 解码器的分布式句子表征学习方法，旨在实现对多种任务的应用。作者通过训练模型在大规模小说数据集上获得高通用性的卷积句子编码器，并通过多项实验表明该模型在各类应用中均优于竞争方法。

    Nov, 2016

  • 生成、判别和对比：半监督句子表示学习框架

    本文提出了一种半监督句子嵌入框架 GenSE，通过使用大规模无标注数据，利用生成器 / 鉴别器模型进行句子对的合成和对比学习，实现对带标签和合成数据的句子表示学习，相对于目前最先进的方法，在四项领域适应任务上具有显着的性能提升，平均相关性得分为 85.19，证明了其高效性和一般化能力。

    Oct, 2022

  • BFGAN：用于词汇约束句子生成的前向和后向生成对抗网络

    提出了一种名为 BFGAN 的新算法框架，通过使用向前和向后生成器一起生成词汇限制句子，并使用鉴别器通过分配奖励信号来指导两个生成器的联合训练，以解决向基于 RNN 的模型中直接引入词汇约束所面临的挑战。

    Jun, 2018

  • 生成对抗网络中的协同采样

    本文提出了一种协同抽样方案，使得生成器和鉴别器通过在生成器的特定层使用梯度更新来优化生成样本，通过实验验证在合成和图像数据集上，这种方法可以在定量和定性上提高生成的样本，提供了 GAN 抽样中的一种新的自由度。

    Feb, 2019

  • 自协同学习：生成器与鉴别器之间的协作

    本文提出了一种自洽学习的框架，利用生成对抗网络的生成模型和判别模型的博弈优化，使两者协同训练，避免了 GAN 训练不稳定的问题，并在句子语义匹配问题上实现了较好的性能。

    Mar, 2023