ACLJun, 2023

VoteTRANS: 通过在转换的困难标签上投票检测敌对文本，无需训练

PDF
TL;DR本文提出了一种名为 VoteTRANS 的检测方法，通过比较输入文本和其转换的硬标签来检测对抗性文本，无需基于原始数据或对抗数据进行训练，并且在各种最新的攻击、模型和数据集上表现良好。
adversarial attacksdeep learningdetectionvotetranshard labels
发现论文，激发创造
  • 通过随机替换和投票检测文本对抗样本

    本研究提出了一种基于 Randomized Substitution and Vote 方法的文本对抗样本检测技术，该技术能够有效地检测文本对抗样本，同时不影响神经网络在正常样本上的分类精度。

    Sep, 2021

  • 可解释性与透明度驱动的文本对抗样本检测和转换 (IT-DT)

    本研究提出了一种名为 IT-DT 的框架，它关注于解释性和透明性来检测和转换文本对抗性示例，以改善 Transformer-based 文本分类器对抗攻击的鲁棒性和可靠性。框架使用技术如注意力映射和模型反馈进行解释性检测，在识别对抗分类和确定模型漏洞方面具有显著效果。在转换阶段，IT-DT 利用预训练的嵌入和模型反馈来生成针对扰动单词的最佳替换，帮助将对抗示例转化为非对抗，从而保持文本的意义和模型预期行为一致。IT-DT 框架通过人工专家的参与提高透明度，增强复杂情况下的决策能力。

    Jul, 2023

  • 探究和利用图像转换对抗性检测的影响

    本文综述了利用图像转换进行对抗检测的近期进展，并提出了一种名为 AdvJudge 的深度学习方法，通过结合 9 种图像转换的分数来判断对抗性示例，并利用可解释的 AI 工具显示了每种图像转换对对抗检测的贡献。

    Jan, 2022

  • 无监督对抗式检测无需额外模型：训练损失应改变

    深度学习模型中对抗鲁棒性是一个关键挑战。我们提出了新的训练损失和检测方法，可以减少不必要的特征，并且不需要先验对抗攻击类型的知识。该方法在各种攻击类型上具有良好的性能和低误报率。

    Aug, 2023

  • TextHacker: 基于学习的混合局部搜索算法用于文本硬标签对抗攻击

    该研究提出了一种基于单独预测标签的敌对攻击 TextHacker，通过学习词汇替换对文本输出标签的影响来确定关键词汇，采用混合本地搜索和攻击历史估计词汇重要性来最小化被攻击文本所需的修改，该攻击在文本分类和文本蕴含方面具有显著的优越性。

    Jan, 2022

  • 通过输入转换、防御扰动和投票检测对抗性样本

    本文探讨在可对抗的变形情况下检测对抗攻击，并提出一种名为 defense perturbation 的新方法来检测具有相同输入变换与可靠的对抗攻击。同时介绍了多网络对抗例子，这种对抗例子可以同时欺骗多个网络。

    Jan, 2021

  • 基于 Transformer 的恶意软件检测器的对抗性攻击

    探究基于机器学习的恶意软件检测模型的安全性，使用 Transformers-based 恶意软件检测器进行对抗攻击，提出防御策略，将错误分类率降至一半。

    Oct, 2022

  • 基于梯度的对抗攻击：针对文本转换器

    本文提出了首个基于梯度的通用攻击转换器模型算法，通过搜索由连续矩阵参数化的对抗性样本分布实现梯度优化，并在各种自然语言任务中证明其白盒攻击表现的最先进性。此外，本文还展示使用对对抗分布进行采样实现的强大黑盒转移攻击匹配或超越现有方法，而仅需要硬标签输出。

    Apr, 2021

  • 基于突变的神经文本检测器对抗攻击

    本论文提出了基于字符和词语的变异操作方法，用于生成对抗样本以攻击最先进的自然文本检测器，从而逐渐减少机器学习模型和分类器的预测准确性。

    Feb, 2023

  • 识别文本分类器的对抗攻击

    本文为对文本分类器对抗攻击的取证研究提供了第一步，通过分析对抗文本来确定其创建方法，提供了一个广泛的攻击检测和标记数据集，使用该数据集开发和基准测试攻击识别的多个分类器，并展示了三类特征对这些任务的有效性。

    Jan, 2022