EMNLPAug, 2019

ARAML：一个文本生成的稳定对抗训练框架

PDF
TL;DR提出了一种称为 ARAML 的新框架，通过采用最大似然估计算法以及与强化学习中不同的奖励函数，来优化文本 GAN 模型的性能。实验证明，这种模型能比现有模型更稳定、更优秀地生成文本。
generative adversarial networksreinforcement learningmaximum likelihoodadversarial rewardtext generation
发现论文，激发创造
  • TextGAIL: 文本生成的生成对抗模仿学习

    本文提出一种基于预训练语言模型的文本生成生成对抗性学习框架，采用对比鉴别器和近端策略优化来稳定和改进文本生成性能，实验证明该方法在无条件和有条件文本生成任务上均优于 MLE 基线。

    Apr, 2020

  • 强韧性对抗性强化学习

    提出了一种稳健性的敌对训练 (robust adversarial reinforcement learning, RARL) 方法，该方法将敌对训练与零和极小优化相结合，通过训练一个智能体，使其能够在真实系统上的杂乱因素和不确定性下操作，并在多种环境中进行了验证。

    Mar, 2017

  • 生成对抗训练可以提高神经语言模型的表现

    本文提出了一种基于生成对抗网络和对抗性训练的正则化方法，可以在神经语言模型中防止过拟合，与常见的对抗性训练方法相比，本方法不需要经过时间的二次反向传播，并且其开销不超过基准方法的 20%。

    Nov, 2022

  • 使用生成对抗网络进行文本生成的调查

    本篇论文介绍了最近使用生成对抗网络进行文本生成的研究和进展，并对基于对抗学习的文本生成的三种可能选择（即 Gumbel-Softmax 分化，强化学习和修改训练目标）进行了综述。

    Dec, 2022

  • 通过适应性规则对抗训练实现史塔克伯格博弈的坚韧强化学习

    本文介绍了一种用于强化学习的 Stackelberg 游戏模型 ——RRL-Stack，旨在提供额外的鲁棒性训练和解决目前 RL 训练中存在的过度保守智能及训练不稳定等问题，并提出了一种基于 Stackelberg Policy Gradient 算法的解决方案，在单一和多智能体任务中展现更好的训练稳定性和鲁棒性。

    Feb, 2022

  • 风险厌恶稳健对抗强化学习

    本文提出了一种风险规避的强化学习算法，通过引入风险规避主角和风险趋避对手的方式，使用价值函数方差来建模风险，避免极端不良事件的发生，该算法在自动驾驶控制器上的实验中证明具有较高的鲁棒性。

    Mar, 2019

  • 通过对抗式强化学习的强健市场做市

    本研究证明对抗强化学习 (ARL) 可以用于产生适应性强、抗干扰的做市商代理。我们将 Avellaneda 和 Stoikov [2008] 的单一代理模型转化为做市商和对手之间的离散时间零和游戏，实验证明 ARL 方法的性能改善显著，收敛到纳什均衡。

    Mar, 2020

  • ColdGANs: 使用谨慎的采样策略驯服语言 GANs

    本文提出一种名为 ColdGANs 的综合探索策略的 GAN 框架，用于解决基于 Maximum Likelihood Estimation 培训的文本生成算法的局限性，并展示了 ColdGANs 相比于其他 RL 算法以及 MLE 在三个文本生成任务中的效果更好。

    Jun, 2020

  • 无需强化学习的对抗文本生成

    本文利用自编码器生成低维度语句向量空间，再用生成对抗网络利用这个空间生成真实文本，与竞争基线相比，经人工审核和 BLEU 分数表明模型可以生成逼真的文本。

    Oct, 2018

  • 神经结构预测的奖励最大似然

    本文提出了一种简单而高效的方法，在最大似然框架中实现任务奖励的直接优化，将其融入到结构化输出预测的问题中，并尝试使用奖励最大化条件分布来优化模型。实验结果表明，该方法在语音识别和机器翻译任务上实现了显著的性能提升。

    Sep, 2016