EMNLPAug, 2019

深度强化学习结合分布式语义奖励的抽象摘要生成

PDF
TL;DR本研究论文使用分布式语义学方法，提出了一种新的奖励制度 DSR (Distributional Semantics Reward)，用于评估候选摘要的性能，与传统的奖励模式相比，DSR 可以更准确地捕捉自然语言的词汇和构成多样性。
deep reinforcement learningabstractive summarizationdistributional semanticslexical diversitycompositional diversity
发现论文，激发创造
  • 基于 RL 的句子摘要中语法蕴含的质量

    本文比较了强化学习（RL）和基于句法的模型（如基于词性标注和依存信息的模型）两种文摘方法的优劣，并探究了它们在生成摘要时的影响，得出了使用两种方法的联合模型在质量评估方面表现最佳，但仅使用强化学习的训练无需更少的参数和更快的训练收敛即可得到与基于句法模型相近的好结果。

    Dec, 2019

  • RewardsOfSum: 探索用于摘要生成的强化学习奖励

    该研究提出了两种用于抽象摘要任务的奖励函数：RwB-Hinge 和 RISK。实验结果表明，这些函数在以 NLL 为基线的基础上实现了一致的性能提升。

    Jun, 2021

  • 基于关注要点和蕴含的多目标增强摘要

    通过强化学习方法，采用 ROUGESal 和 Entail 两种新的奖励函数优化传统指标 ROUGE，实现多重奖励同时优化的方式来提高摘要生成的效果。实验证明，该方法在 CNN/Daily Mail 数据集上达到了新的最高性能水平，并在测试集合 DUC-2002 中有很大的提高。

    Apr, 2018

  • 更好的奖励带来更好的摘要：无参考学习摘要

    从 2500 个摘要的人为评分中学习奖励函数，得出的 RL 系统奖励函数在人类评价方面具有显著更高的相关性，使用我们得出的奖励函数进行训练的 RL 系统生成了比现有方法更符合人类喜好的摘要。

    Sep, 2019

  • 答案联合！增强摘要模型的无监督度量

    使用强化学习的抽象化概括方法已经被提出来克服传统极大似然估计的限制，提出了一些使用问题回答作为替代评价指标的模型，并在人工和自动评价指标上取得了较大的提升。

    Sep, 2019

  • 深度强化学习模型用于摘要生成

    提出了一种基于编码器 - 解码器和 RNN 的自注意力神经网络模型，通过组合监督和强化学习来训练和生成连贯性和可读性更强的长文摘要，与目前最先进模型相比，在 CNN / Daily Mail 数据集上取得了 41.16 的 ROUGE-1 得分，并且人工评估表明我们的模型产生了更高质量的摘要。

    May, 2017

  • 结合问题感知的语义奖励的强化学习在摘要式问题总结中的应用

    本文提出了一种基于强化学习的抽象式问题摘要框架，该框架通过 downstream 任务中的问题类型识别和问题重点识别得到两个新颖的奖励来规范问题生成模型，从而确保问题摘要的语义有效并鼓励包含关键的医疗实体 / 重点。作者在两个基准数据集上对其所提出的方法进行了评估，并取得了比现有模型更高的性能。手动评估总结结果表明生成的问题更具多样性且不具备基线总结的不准确性。

    Jul, 2021

  • 强化取代监督：使用深度强化学习进行查询聚焦摘要

    提出了一种使用强化学习和多个策略梯度网络的查询导向摘要生成方法，通过改进语义相似性奖励以及使用聚类假设构建的段落嵌入方案，显著提高了生成文本质量和性能。

    Nov, 2023

  • 从人类偏好中微调语言模型

    本文介绍了如何利用奖励学习将强化学习应用于自然语言任务中，旨在建立适用于现实世界任务的奖励模型。我们将奖励学习应用于四个自然语言任务（文本连续生成、摘要），取得了不错的结果，但模型可能会利用人类评估者的简单启发式规则。

    Sep, 2019

  • 深度强化学习用于无监督视频摘要与多样性 - 代表性奖励

    该研究提出了一种基于强化学习和深度摘要网络的视频摘要算法，该算法的奖励函数同时考虑了视频摘要的多样性和代表性，并在两个基准数据集上展示了优异的性能。

    Dec, 2017