AAAIMay, 2023

低资源环境下对抗性词汇稀释作为文本数据增强

PDF
TL;DR本研究提出了一种 Adversarial Word Dilution（AWD） 文本数据增强方法，通过将强阳性单词的嵌入与未知单词的嵌入进行加权混合，生成难以被分类模型识别为阳性的文本输入，以有效训练低资源文本分类模型。实验表明，AWD 可以生成更有效的数据增强，并且是可解释的，可以灵活扩展到新的示例而无需进一步训练。
data augmentationtext classificationadversarial word dilutionlow-resource regimepositive examples
发现论文，激发创造
  • 更广覆盖以提高更好抗干扰性：用 Mixup 扩充进行对抗训练以达到更好的微调鲁棒性

    本文提出了对抗与混合数据增强方法（AMDA）以提高预训练语言模型在对抗攻击下的鲁棒性。在 BERT 和 RoBERTa 的文本分类实验中，AMDA 在两种强对抗攻击下均取得显著的鲁棒性增益，并缓解了 ADA 在干净数据上的性能下降。

    Dec, 2020

  • 低资源语言的分布式数据增强方法

    通过提出易分布数据增强（EDDA）和类型特定的相似词替换（TSSR）两种扩展方法，利用语义词上下文信息和词性标签进行词替换和增强，我们展示了这些方法在低资源语言的两个代表数据集上通过 F1 分数度量的实用性，证明了增强数据可以在低资源环境中提高分类性能。

    Sep, 2023

  • 使用对抗样本进行训练增强的鲁棒语音识别

    本文探讨了使用对抗性样本在训练语音识别系统中以增强深度神经网络声学模型的鲁棒性，结果表明相对于传统的数据通过数据转换技术实现的增强，动态利用当前声学模型参数生成对抗性样本的方法在 Aurora-4 和 CHiME-4 单通道实验中具有显著的改善表现。此外，将对抗性样本与老师 / 学生培训相结合，可以进一步提高识别准确率，Aurora-4 相对误差率降低了 23%。

    Jun, 2018

  • 通过隐式对抗数据增强提升模型的弹性

    通过融入对抗性和反对抗性扰动分布，增强样本的深度特征，适应性调整学习困难以适应每个样本的特征。同时，开发了一种基于元学习的框架，通过引入增强的效果并跳过显式的增强过程，优化分类器。在长尾学习、广义长尾学习、嘈杂标记学习和子种群转移学习等四种常见偏差学习场景中进行了广泛实验，实证结果表明该方法始终达到最先进的性能水平，突显其广泛适应性。

    Apr, 2024

  • 对抗数据增强用于鲁棒的说话人验证

    本文提出了一种名为对抗数据增强（A-DA）的新方法，将数据增强与对抗学习相结合，通过额外的分类器对不同类型的增强进行分类，使得网络能够生成能够欺骗分类器的说话者嵌入，从而提升模型对于增强变化的鲁棒性和泛化能力。在 VoxCeleb 和 CN-Celeb 数据集上的实验证明了我们提出的 A-DA 方法在匹配和不匹配的测试条件下均优于标准数据增强方法，展示了其对于声学变化的卓越鲁棒性和泛化能力。

    Feb, 2024

  • 朝向准确性 - 公正性困境：基于对抗样本的数据增强用于视觉去偏差

    研究机器学习中的公平性问题和图像分类任务中的去偏见问题，通过使用对抗性样本进行训练数据增强来实现模型的准确性和公平性。

    Jul, 2020

  • 针对低资源事件抽取的目标增强

    应对低资源信息提取的挑战仍然是一个持续存在的问题，由于有限训练示例中固有的信息稀缺性。现有的数据增强方法被认为是潜在的解决方案，但在弱增强（例如同义词增强）和剧烈增强（例如缺乏适当指导的条件生成）之间很难达到平衡。本文提出了一种新的范式，采用目标增强和反向验证，以生成增强的示例，增强了多样性、极性、准确性和连贯性。广泛的实验结果证明了所提范式的有效性。此外，还讨论了已确定的局限性，为未来改进提供了启示。

    May, 2024

  • 用最小扰动生成文本对抗样本

    本文提出了一种新的对抗攻击策略，旨在找到与原始文本相似度极高的对抗文本，同时引入最小扰动；实验结果表明，与现有攻击方法相比，我们的方法在四个基准数据集上的成功率更高，扰动率更低。

    Nov, 2022

  • 用于低资源领域任务的检索增强数据增强

    提出了一种新的方法，通过将其他数据集中的丰富示例与给定的训练数据结合起来，通过在原始和检索的样本之间的上下文信息中促使大型语言模型生成新的样本，以增加训练数据的多样性和相关性，在低资源环境中实现了比现有大型语言模型数据增强基线更好的性能。

    Feb, 2024

  • 通过鲁棒密度估计进行文本分类中词语对抗样本的检测：基准和基础线

    本文旨在探索检测针对 NLP 模型的对抗攻击的方法，提出基于密度估计的 Competitive Baseline，并提供包括 4 个数据集上 4 种流行攻击方法和 4 种模型在内的数据集，以便进一步研究。

    Mar, 2022