ACLSep, 2020

OpenAttack：一个开源的文本对抗攻击工具包

PDF
TL;DR本篇论文提出了一个基于开源的文本对抗攻击工具包 OpenAttack，该工具包有其独特的优势，在支持所有攻击类型、多语言和并行处理方面表现突出。它包含 15 种典型的攻击模型，覆盖了所有攻击类型，高度包容性的模块化设计不仅支持现有攻击模型的快速利用，还能实现巨大的灵活性和可扩展性。OpenAttack 工具包广泛应用于攻击模型的比较和评估、模型的鲁棒性测试、辅助开发新的攻击模型和敌对训练等领域。
textual adversarial attackingattack modelsopenattackmultilingualitymodular design
发现论文，激发创造
  • 设计自然语言处理 Python 框架的经验总结：TextAttack

    TextAttack 是一种开源的 Python 工具包，用于 NLP 中的对抗攻击、对抗训练和数据增强。它可以帮助研究人员和开发人员测试和研究 NLP 模型的弱点，并解决如何支持来自不同深度学习框架的模型和尽可能多的数据集这些常见问题。

    Oct, 2020

  • TextAttack: 自然语言处理中对抗攻击、数据增广和对抗训练的框架

    本篇论文介绍了一种名为 TextAttack 的 Python 框架，用于在自然语言处理中进行敌对攻击、数据增强和对抗性训练，通过 TextAttack 的模块化设计，研究人员可以轻松构建来自新颖和现有组件的攻击。该框架实现了 16 种从文献中学来的敌对攻击，并支持各种模型和数据集，包括 BERT 和其他变压器，并提供使用对抗攻击的组件来提高模型的准确性和鲁棒性的数据增强和对抗训练模块。

    Apr, 2020

  • 学习攻击：朝着在现实场景中的文本对抗攻击

    该研究旨在阐述在自然语言处理领域，利用强化学习的攻击模型可以从历史攻击中学习，更高效地发起攻击，并对多项任务进行对比，实验证明其在攻击性和效率方面均优于其他基线方法。

    Sep, 2020

  • 识别文本分类器的对抗攻击

    本文为对文本分类器对抗攻击的取证研究提供了第一步，通过分析对抗文本来确定其创建方法，提供了一个广泛的攻击检测和标记数据集，使用该数据集开发和基准测试攻击识别的多个分类器，并展示了三类特征对这些任务的有效性。

    Jan, 2022

  • 基于组合优化的词级文本对抗攻击

    本文提出了一种新颖的攻击模型，采用语义元替换和粒子群优化算法处理词级攻击中不适当的搜索空间缩减方法和低效的优化算法，实验结果表明该模型相对于基线方法在攻击成功率方面显著提高，可生成更高质量的对抗样本并通过对抗训练提高受害模型的鲁棒性。

    Oct, 2019

  • SemAttack: 基于不同语义空间的自然文本攻击

    提出了一种有效的 SemAttack 框架，在不同语义空间下构建语义干扰函数生成更接近原始输入的自然对抗文本，可针对包括大规模 LM 和防御策略在内的对抗方法，适用于不同语言的对抗生成，而人评结果表明生成出的对抗文本自然，几乎不影响人类的表现。

    May, 2022

  • CodeAttack：预训练编程语言模型的基于代码的对抗性攻击

    CodeAttack 是一个基于代码结构的黑盒攻击模型，检测了最先进的预训练编程语言模型对特定于代码的对抗攻击的脆弱性，并成功地在不同编程语言的多个代码 - 代码和代码 - NL 任务中实现了最佳性能下降。

    May, 2022

  • 多粒度文本对抗攻击与行为克隆

    本文介绍 MAYA - 一种多粒度攻击的方法，它能够有效生成高质量的对抗样本，并通过基于强化学习的方法训练多粒度攻击代理以进一步减少查询次数和适应黑盒模型攻击。在两种不同的黑盒攻击设置和三种基准数据集上攻击 BiLSTM、BERT 和 RoBERTa 模型，实验结果表明我们的模型具有更好的攻击性能和更流畅、更符合语法规则的对抗样本。

    Sep, 2021

  • Torchattacks：一个用于 PyTorch 的对抗攻击库

    Torchattacks 是一个 PyTorch 库，其中包含对抗性攻击来生成对抗性示例并验证深度学习模型的鲁棒性。

    Sep, 2020

  • 加强文本攻击检测器

    该研究提出了两个重要贡献：引入了 LAROUSSE 框架来检测文本对抗攻击，引入了 STAKEOUT 基准评估框架，其中包含了九种常用攻击方法、三个数据集和两个预训练模型。通过广泛的数值实验，我们证明 LAROUSSE 优于先前的方法，并且可以识别出有意义的检测率变化因素。

    Oct, 2023