Feb, 2023

通过噪声实现连贯性和多样性：基于结构感知去噪的自监督释义生成

PDF
TL;DR本文提出了 SCANING，这是一个通过受控噪声注入进行释义的无监督框架，它着重于代数单词问题的释义，并进行了广泛的自动化和手动评估，从而提高了语义保存和产生不同释义方面的性能。
scaningparaphrasingword problemscontrolled noise injectiononline pedagogy
发现论文，激发创造
  • 用去噪自编码器进行无监督自然语言生成

    使用去噪自编码器对有噪声的结构化数据进行训练，能够在自然语言生成的任务上取得比监督学习更高的性能表现。

    Apr, 2018

  • 模拟退火算法实现的无监督释义

    我们提出了一种新方法 UPSA，它利用模拟退火实现无监督的同义词生成。我们将同义词生成建模为一个优化问题，并提出了一个复杂的目标函数，涉及同义词的语义相似性、表达多样性和语言流畅性。然后，UPSA 通过执行一系列局部编辑来朝着这个目标搜索句子空间。我们的方法是无监督的，不需要平行语料库进行训练，因此可以轻松应用于不同的领域。我们在各种基准数据集上评估了我们的方法，即 Quora、Wikianswers、MSCOCO 和 Twitter 等。广泛的结果表明，UPSA 在自动和人工评估方面都实现了与以前的无监督方法相比的最先进性能。此外，我们的方法优于大多数现有的领域自适应监督模型，显示了 UPSA 的通用性。

    Sep, 2019

  • 无监督舆情摘要生成与加噪声去噪声技术

    本文介绍了一种基于🈚️ground truth summaries 的情况下，利用文档创建合成数据集、引入多种噪声生成函数以及学习生成原始评论的摘要模型的方法，该方法比抽取式和生成式基线模型都有更好的效果。

    Apr, 2020

  • 通过自协同并行生成对抗分支在真实场景中进行无监督图像去噪

    基于生成式对抗网络的无监督方法在图像去噪方面取得了优异的性能，而我们提出的基于滤波引导噪声提取模块的深度学习策略能够在不增加推理复杂性的情况下显著提高去噪框架的性能。

    Aug, 2023

  • 句法控制释义网络生成对抗性样本

    通过建议句法控制的转述网络，生成对抗样例，数据来自大规模的回译，尝试指定目标句法，通过人工和自动化评估表明此系统可以发现还原目标规范且性能不亚于现有对照组，增强了对语法变化的鲁棒性。

    Apr, 2018

  • 在不使用已标注平行对的情况下生成句法控制的同义改写句

    本文提出了一种基于编码器 - 解码器的模型，名为 Syntactically controlled Paraphrase Generator (SynPG)，它可以从未注释的文本集合中学习将一句话的语义和语法分离的能力，从而生成语法各异的释义，而无需使用大量注释的释义对。自动评价和人工评价的实验结果表明，该模型在语法控制方面的表现优于无监督基线，同时生成的释义的质量也具有竞争力。同时，经过充分的训练，该模型的性能与有监督模型相媲美，甚至更好，使其生成的语法受控释义可以用于数据增强，以提高 NLP 模型的健壮性。

    Jan, 2021

  • 利用上下文作为正则化器的 ConRPG: 意译生成

    本文提出了一种基于无监督范式的释义生成方法，思路基于生成相同含义的两个句子的概率应该相同，提出了一种由基于上下文语言模型生成释义候选项、使用评分函数进行候选项过滤、基于筛选的候选项进行释义模型训练的管道系统，并在不同任务和数据集上进行实验，表明该方法在有监督和无监督设置中均有效。

    Sep, 2021

  • 使用抽象意义表示进行无监督句法控制的释义生成

    本研究提出了一种基于 AMR 的修改短语生成模型 (AMRPG)，该模型通过对抽象含义表示进行编码，从而在语法控制和短语生成质量方面显着提高了非监督学习方法的性能，并可用于数据增强以改善 NLP 模型的鲁棒性。

    Nov, 2022

  • 学习清洁：GAN 透视

    该研究论文探讨了使用生成对抗网络（GAN）和 CycleGAN，将未配对的噪声和无噪声图像转化为配对的干净文档，以用于清理噪声扰动，实现文档清理的任务。

    Jan, 2019

  • 利用去噪自编码器进行无监督的句子压缩

    本研究通过加入噪声的方式进行了一个摘要任务来训练去噪自编码器从而实现了在不需要配对的语料库的情况下进行句子压缩。使用标准文本摘要数据集的人类评估表明，我们的模型与基于监督学习的语法正确性和意义保留基准相当，不需要目标数据，我们的无监督模型已经学会生成不完美但合理可读的句子摘要。

    Sep, 2018