EMNLPJan, 2022

TextHacker: 基于学习的混合局部搜索算法用于文本硬标签对抗攻击

PDF
TL;DR该研究提出了一种基于单独预测标签的敌对攻击 TextHacker，通过学习词汇替换对文本输出标签的影响来确定关键词汇，采用混合本地搜索和攻击历史估计词汇重要性来最小化被攻击文本所需的修改，该攻击在文本分类和文本蕴含方面具有显著的优越性。
adversarial attackhard-labeltext classificationtextual entailmentword importance
发现论文，激发创造
  • HQA-Attack: 面向文本黑盒硬标签高质量对抗攻击

    在黑盒硬标签文本对抗攻击中，提出了一种名为 HQA-Attack 的简单而有效的框架，可以在有限的查询预算下生成高质量的文本对抗样本，具有高语义相似性和低扰动率。

    Feb, 2024

  • LimeAttack: 文本硬标记对抗攻击的本地可解释方法

    利用局部可解释方法近似计算词重要性排名，并采用束搜索算法寻找最优解的一种新型硬标签攻击算法 LimeAttack 在相同查询预算下实现更好的攻击性能。此外，我们评估了 LimeAttack 对大语言模型的有效性，并发现对大语言模型威胁仍然显著。LimeAttack 生成的对抗样本具有很高的可迁移性，并通过对抗训练有效提高了模型的鲁棒性。

    Aug, 2023

  • TextDecepter：针对文本分类器的硬标签黑盒攻击

    本文介绍了一种针对自然语言处理分类器的黑盒硬标签攻击的新方法，其中没有模型信息被公开，攻击者只能查询模型以获得分类器的最终决策，该攻击场景适用于用于情感分析和有毒内容检测等安全敏感应用的真实世界黑盒模型。

    Aug, 2020

  • 在硬标签黑盒设置中生成自然语言攻击

    该研究提出了一种决策式的攻击策略，利用基于人口统计的优化算法，通过仅观察目标模型预测的前一标签，制作出可信且语义相似的对抗性例子。与先前文献中提出的攻击相比，在高度限制的情况下，成功率更高，被替换单词比例更低。

    Dec, 2020

  • 基于硬标签的小样本黑盒对抗攻击

    提出了一种新的针对硬标签的黑盒攻击的优化方法，利用经预训练的替代模型指导优化过程，实验证明该方法在不同目标模型架构下显著提高了攻击的查询效率，攻击成功率较基准测试提高了约 5 倍，特别是在 100 和 250 个查询预算下。

    Mar, 2024

  • 利用目标信息的文本对抗攻击的改进和提升

    本文研究了利用目标模型输出和数据对攻击率和查询率的影响，并表明两者都可以提高，同时附加查询的开销有限。

    Apr, 2021

  • 识别文本分类器的对抗攻击

    本文为对文本分类器对抗攻击的取证研究提供了第一步，通过分析对抗文本来确定其创建方法，提供了一个广泛的攻击检测和标记数据集，使用该数据集开发和基准测试攻击识别的多个分类器，并展示了三类特征对这些任务的有效性。

    Jan, 2022

  • 深度文本分类存在欺诈性

    本文介绍了一种有效的方法来生成文本对抗样本，证明了基于深度神经网络的文本分类器同样容易受到对抗样本的攻击。通过计算代价梯度或者生成一系列遮盖测试样本，可以识别用于分类的文本信息，基于这些信息，设计了三种扰动策略（插入、修改、删除）来生成对抗样本。实验表明，基于我们方法生成的对抗样本可以成功欺骗基于字符和词语所的 DNN 文本分类器，并且可以扰动到任意的分类类别而不影响其实用性，同时所引入的扰动难以被发现。

    Apr, 2017

  • 用最小扰动生成文本对抗样本

    本文提出了一种新的对抗攻击策略，旨在找到与原始文本相似度极高的对抗文本，同时引入最小扰动；实验结果表明，与现有攻击方法相比，我们的方法在四个基准数据集上的成功率更高，扰动率更低。

    Nov, 2022

  • 学习攻击：朝着在现实场景中的文本对抗攻击

    该研究旨在阐述在自然语言处理领域，利用强化学习的攻击模型可以从历史攻击中学习，更高效地发起攻击，并对多项任务进行对比，实验证明其在攻击性和效率方面均优于其他基线方法。

    Sep, 2020