ICLRJan, 2020

使用比较歧视的自对抗学习进行文本生成

PDF
TL;DR提出了一种新的自我对抗学习（SAL）范式，通过使用相对鉴别器作为 GAN 的鉴别器，并引入自我改进奖励机制，成功地解决了 GAN 在生成文本方面的奖励稀疏性和模式崩溃问题，并在文本生成基准数据集上取得了更高质量和更稳定的性能表现。
发现论文，激发创造
  • TextGAIL: 文本生成的生成对抗模仿学习

    本文提出一种基于预训练语言模型的文本生成生成对抗性学习框架，采用对比鉴别器和近端策略优化来稳定和改进文本生成性能，实验证明该方法在无条件和有条件文本生成任务上均优于 MLE 基线。

    Apr, 2020

  • 对抗特征匹配的文本生成

    该研究提出了一种通过敌对训练生成逼真文本的框架，采用了 LSTM 作为生成器，卷积网络作为判别器，并使用核距离度量匹配真实和合成句子的高维潜在特征分布，从而缓解了模式崩溃问题，并在定量评估方面表现出优越性，证明了该模型可以生成逼真的句子。

    Jun, 2017

  • 自协同学习：生成器与鉴别器之间的协作

    本文提出了一种自洽学习的框架，利用生成对抗网络的生成模型和判别模型的博弈优化，使两者协同训练，避免了 GAN 训练不稳定的问题，并在句子语义匹配问题上实现了较好的性能。

    Mar, 2023

  • 无需强化学习的对抗文本生成

    本文利用自编码器生成低维度语句向量空间，再用生成对抗网络利用这个空间生成真实文本，与竞争基线相比，经人工审核和 BLEU 分数表明模型可以生成逼真的文本。

    Oct, 2018

  • 语言生成的对抗排名

    本文提出了一种新颖的生成对抗网络 RankGAN，用于生成高质量的自然语言描述，其通过给定一个参考组来分析和排名一组人工编写和机器编写的句子，通过相对排名分数来评估数据集的质量以帮助学习更好的生成器，并使用策略梯度技术来优化 RankGAN。多个公共数据集的实验结果清楚地证明了所提出方案的有效性。

    May, 2017

  • 使用生成对抗网络进行文本生成的调查

    本篇论文介绍了最近使用生成对抗网络进行文本生成的研究和进展，并对基于对抗学习的文本生成的三种可能选择（即 Gumbel-Softmax 分化，强化学习和修改训练目标）进行了综述。

    Dec, 2022

  • EnsembleGAN: 短文本对话检索生成集成模型的敌对学习

    在开放领域对话情景中，提出了一种敌对学习框架 ensembleGAN，用于增强检索 - 生成集合模型，该模型由生成器、排名生成器和排名鉴别器组成，通过学习生成更加相关的响应、高质量候选对抗响应、以及真实响应的识别与区分，实现了两种生成器的优点。实验结果表明了 ensembleGAN 在人工和自动评估度量上的优越性。

    Apr, 2020

  • SalGAN: 基于生成式对抗网络的视觉显著性预测

    介绍了 SalGAN，一种具有对抗样本训练的深度卷积神经网络，用于视觉显着性预测，实验表明对抗训练结合二元交叉熵损失函数可以达到最先进的性能。

    Jan, 2017

  • GAN 的在线自适应课程学习

    提出了一种基于多个鉴别器网络来训练生成器的创新框架，通过更新分配给每个判别器的混合权重来反映生成器的进展情况，实验结果表明能够通过学习曲线来提高样本的质量和多样性。

    Jul, 2018

  • 使用生成对抗网络生成无监督文本嵌入空间以进行文本合成

    本文提出了一种名为 TESGAN 的框架，使用连续文本嵌入空间而非离散标记以解决梯度反向传播的问题，通过无监督学习来克服数据记忆问题，从而能够合成具有潜力的新句子。

    Jun, 2023