May, 2018

文本输入嵌入空间的可解释对抗扰动

PDF
TL;DR该论文针对自然语言处理（NLP）中的对抗训练的方法应用于词嵌入空间进行改进，使其具有可解释性，从而实现在任务执行时的性能提升。
adversarial trainingnatural language processingword embedding spaceinterpretabilityperformance improvement
发现论文，激发创造
  • 通过扰动修复对抗性文本

    提出了一种通过多种敌对扰动方法修复文本，使神经网络能够正确分类的方法，经实验证明，该方法可对约 80％的文本进行修复，并且取决于使用的扰动方法，平均修复一条文本的时间仅需一秒。

    Dec, 2021

  • 关于通过扰动潜在表示进行文本分类的对抗性示例

    通过使用分类器的梯度，我们创建了一个衡量文本分类器鲁棒性的框架。

    May, 2024

  • 文本对抗攻击中的语义保护

    通过介绍 Semantics-Preserving-Encoder (SPE), 提出了一种解决预先训练的文本编码器中存在的问题以及提高对抗性攻击例子质量的简单，全监督的句子嵌入技术，结果表明 SPE 显著提高了对抗性攻击的质量。

    Nov, 2022

  • TAVAT: 基于 Token 的虚拟对抗训练用于语言理解

    本文提出了一种基于标记的虚拟对抗训练方法，该方法在 NLP 任务中引入了生成嵌入空间中扰动的虚拟对抗训练，并使用标记级别的规范化球适当限制这些扰动，实验表明，该方法显著提高了 BERT 和 ALBERT 等预训练模型在多个任务中的性能。

    Apr, 2020

  • 通过对抗训练来改善神经语言模型

    使用对抗训练机制可以更好地规范神经语言模型中的过度拟合问题，增加嵌入向量的多样性并提高在机器翻译领域的性能。

    Jun, 2019

  • 基于残留的自然语言对抗攻击检测

    本文介绍了如何将图像设计的策略移植到自然语言处理（NLP）领域，发现传统的图像领域的检测器并不适用于 NLP 领域，并提出一种基于文本嵌入的检测器来识别自然语言处理领域的对抗性样本。该检测器在许多任务上的表现优于传统的移植自图像领域的检测器和最新的 NLP 特定检测器。

    Apr, 2022

  • 用最小扰动生成文本对抗样本

    本文提出了一种新的对抗攻击策略，旨在找到与原始文本相似度极高的对抗文本，同时引入最小扰动；实验结果表明，与现有攻击方法相比，我们的方法在四个基准数据集上的成功率更高，扰动率更低。

    Nov, 2022

  • 可解释的文本对抗训练

    利用稀疏投影梯度下降法，提出了一种新的对于文本可解释对抗样本的生成方法，该方法将输入扰动限制在距离最近的具有高余弦相似度的单词嵌入方向上，并忽略每个句子水平上规范小于某个阈值的单词嵌入扰动，实验证明，该方法相比最先进的方法在提高可解释性和可能性（通过平均每个单词的非凡度进行评估）方面具有改进，同时在训练性能方面几乎没有损失。

    May, 2019

  • 深度自然语言处理中脆弱解释的扰动输入

    本文探讨了使用对抗性扰动攻击两种最先进的自然语言处理模型的可解释性方法，结果表明，即使对少量单词进行更改，这些方法也可能变得不稳定和不可信。

    Aug, 2021

  • 人类如何感知对抗文本？关于基于单词的对抗攻击的有效性和自然性的现实检验

    对基于机器学习的自然语言处理模型的对抗攻击存在诸多问题，本研究通过对 378 个人的实验调查，发现现有文本攻击在需要人类参与的实际场景中是不切实际的，从而得出应该把人类的感知度作为文本攻击的首要成功标准。

    May, 2023