ACLMay, 2024

针对低资源事件抽取的目标增强

PDF
TL;DR应对低资源信息提取的挑战仍然是一个持续存在的问题，由于有限训练示例中固有的信息稀缺性。现有的数据增强方法被认为是潜在的解决方案，但在弱增强（例如同义词增强）和剧烈增强（例如缺乏适当指导的条件生成）之间很难达到平衡。本文提出了一种新的范式，采用目标增强和反向验证，以生成增强的示例，增强了多样性、极性、准确性和连贯性。广泛的实验结果证明了所提范式的有效性。此外，还讨论了已确定的局限性，为未来改进提供了启示。
low-resource information extractiondata augmentation methodstargeted augmentationback validationdiversity enhancement
发现论文，激发创造
  • 低资源神经机器翻译的数据增强

    本研究提出了一种以数据增强为基础的方法，针对低频词汇在合成的新语境中生成新的句子对，以提高神经机器翻译系统的翻译质量。在模拟低资源环境中的实验结果显示，相对于基准和回译方法，我们的方法能够提高翻译质量，最高可提高 2.9 BLEU 分数。

    May, 2017

  • 使用回译的数据增强方法应用于低资源的命名实体识别

    本文提出了基于回译技术的数据增强策略，用于命名实体识别任务的低资源域，实验结果表明该方法在材料科学和生物医学领域中均表现出了高效的性能。

    Aug, 2021

  • DAGA: 一种基于生成方法的数据增强技术，用于低资源标注任务

    本研究提出了一种基于语言模型的数据增强方法，可以生成高质量的合成数据以提高机器学习性能，在监督和半监督学习环境下，实验结果表明，在给定较少的训练数据的情况下，该方法可以始终优于基准方法。

    Nov, 2020

  • 用于低资源领域任务的检索增强数据增强

    提出了一种新的方法，通过将其他数据集中的丰富示例与给定的训练数据结合起来，通过在原始和检索的样本之间的上下文信息中促使大型语言模型生成新的样本，以增加训练数据的多样性和相关性，在低资源环境中实现了比现有大型语言模型数据增强基线更好的性能。

    Feb, 2024

  • 评估数据增强在低资源环境下情感分类的有效性

    本研究评估了不同数据增强技术对低资源数据集上多标签情绪分类任务的效果，并发现后向翻译技术超过基于自编码器的方法，每个训练实例生成多个示例进一步提高了性能，此外后向翻译生成了最多样化的单字和三字组合，这些发现证明了后向翻译在资源有限情况下提升情绪分类模型性能的实用性。

    Jun, 2024

  • 神经 NLP 数据增强

    本文概述了当前用于自然语言处理模型的数据增强方法的现状和近期发展，着重介绍了基于神经网络和变换器的方法，讨论了数据增强的实际问题、可能的缓解措施以及未来研究的方向。

    Feb, 2023

  • 通过数据增强解决语义解析中的资源和隐私限制

    本文介绍了一种应用于低资源任务导向语义解析的新方法，其结合了现实场景中可能出现的多个限制条件，包括缺少相关领域的相似数据集 / 模型，无法直接从语法中采样有用的逻辑形式以及对未标记的自然语言要求保密性等。我们的目标是通过用户交互收集一些话语来改进低资源语义解析器。在这个高度具有挑战性但现实的设置中，我们探讨了涉及生成一组与逻辑形式相对应的结构化规范话语、模拟相应自然语言并过滤结果对的数据增强方法。我们发现，这种方法在我们的严格设置下也是有效的：在复杂的 SMCalFlow 日历数据集（Andreas et al.，2020）的低资源情况下，我们观察到与非数据增强基线相比，在前 1 个匹配中有 33% 的相对改进。

    May, 2022

  • 低资源关键词生成的数据增强

    本文提出了针对资源受限领域关键短语生成的数据增强策略，并设计了使用文章全文来改进关键短语生成技术的方法，在三个数据集上得到了显著的性能提升。

    May, 2023

  • 低资源神经机器翻译中数据增强的再思考：多任务学习方法

    本文提出了一种基于多任务学习的数据增强方法，通过将目标句子的顺序进行颠倒等操作，产生不流畅的目标句子，作为辅助任务使用以加强编码器和强制解码器更多地关注源表示。在六个低资源翻译任务上的实验证明，该方法相对于以扩展经验数据分布为目标的传统数据增强方法，可以在提高翻译质量的同时提高翻译系统的鲁棒性和抗干扰性。

    Sep, 2021

  • 通过决策边界感知的数据增强在低资源环境中提高效果和鲁棒性

    该研究提出了一种基于决策边界的数据增强策略，利用预训练语言模型来提高鲁棒性；该技术首先将潜在特征接近决策边界，然后通过重构生成一个带有软标签的模糊版本，并建议使用中点 K 采样来增强生成句子的多样性。通过大量实验证明了该增强策略与其他方法相比的性能，同时深入研究了软标签和中点 K 采样的效果以及该方法在课程数据增强中的可扩展性。

    Mar, 2024