Dec, 2022

TextGrad: 基于梯度驱动优化的 NLP 鲁棒性评估进展

PDF
TL;DR在 NLP 领域缺乏第一阶梯度的鲁棒性评价框架，本文提出 TextGrad，一种新的基于梯度驱动的攻击生成器，支持高准确性和高质量的文本鲁棒性评估，并通过实验验证了其在攻击生成和防御等方面的有效性。
adversarial robustnessdeep modelsnatural language processingtextgradoptimization
发现论文，激发创造
  • 使用梯度方法生成对抗文本

    本文提出了一种将梯度攻击方法应用于文本领域的框架，通过在嵌入空间中搜索对抗样本来解决离散输入空间中的困难，并使用 Word Mover's Distance（WMD）量化对抗性文本的质量，实验证明该框架可以成功生成高质量的对抗性文本。

    Jan, 2018

  • 基于梯度的对抗攻击：针对文本转换器

    本文提出了首个基于梯度的通用攻击转换器模型算法，通过搜索由连续矩阵参数化的对抗性样本分布实现梯度优化，并在各种自然语言任务中证明其白盒攻击表现的最先进性。此外，本文还展示使用对对抗分布进行采样实现的强大黑盒转移攻击匹配或超越现有方法，而仅需要硬标签输出。

    Apr, 2021

  • TextGrad: 自动文本 “差异化

    AI 正处于一个新的转变时期，TextGrad 是一个强大的框架，通过文本实现自动 “微分”, 可以改善复合人工智能系统的各个组件，这是开发下一代人工智能系统的基础之一。

    Jun, 2024

  • 使用投影梯度下降攻击大规模语言模型

    通过控制连续放松引入的误差，我们改进了投影梯度下降（PGD）对连续放松输入提示的攻击方法，实现了与现有离散优化相同的毁灭性攻击结果，PGD 对 LLMs 的速度比最新的离散优化方法快了一个数量级。

    Feb, 2024

  • PDPGD: 原始 - 对偶近端梯度下降对抗性攻击

    研究了基于优化问题的对抗攻击，使用双重变量来最小化对抗性噪声与规则化惩罚，针对非光滑 $p$- 范数进行极值点下降攻击，实验表明，比当前最先进的攻击方法在 MNIST、CIFAR-10 和受限制的 ImageNet 数据集上都优异表现。

    Jun, 2021

  • 可解释的文本对抗训练

    利用稀疏投影梯度下降法，提出了一种新的对于文本可解释对抗样本的生成方法，该方法将输入扰动限制在距离最近的具有高余弦相似度的单词嵌入方向上，并忽略每个句子水平上规范小于某个阈值的单词嵌入扰动，实验证明，该方法相比最先进的方法在提高可解释性和可能性（通过平均每个单词的非凡度进行评估）方面具有改进，同时在训练性能方面几乎没有损失。

    May, 2019

  • 集成对抗攻击的高效项目梯度下降

    本文介绍了对抗性样本攻击中的两种方法：PGD 方法和 C&W 方法，针对集成模型的攻击，主张使用改进型 PGD 方法达到更高的攻击效率。

    Jun, 2019

  • 对抗训练的收敛性和鲁棒性

    本文提出了一种用于评估内部最大值的解决方法 ——FOSC，以量化评估在内部最大化期间找到的对抗性例子的收敛质量，结果表明，在训练后期使用收敛质量更好的对抗性例子是确保更好的稳健性所必需的，而在训练初期，高收敛质量的对抗性例子则并不是必需的，甚至可能导致差的鲁棒性，因此，我们提出了一种渐进式的动态训练策略，逐步提高生成的对抗性例子的收敛质量，从而显著提高了对抗训练的鲁棒性。

    Dec, 2021

  • 精准、可靠、快速的鲁棒性评估

    在神经网络的研究中，我们开发了一种新的梯度基础的对抗攻击方法，相较于已有的攻击方法，它更可靠，可以适应广泛的对抗标准，并且在提高效率的同时，不需要进行超参数调整，这将对神经网络的鲁棒性评估做出有益的贡献。

    Jul, 2019

  • 针对基于同义词替换的文本攻击的快速梯度投影方法中的对抗训练

    本文提出了一种快速文本对抗攻击方法，称为基于同义词替换的快速梯度投影方法（FGPM），并将其与对抗性训练相结合，提出了一种文本防御方法，称为增强型 Logit 配对的对抗性训练（ATFL），实验证明，ATFL 可以显著提高模型的稳健性并阻止对抗性示例的可转移性。

    Aug, 2020