Aug, 2022

一种基于概率差异引导的束搜索文本对抗攻击的上下文感知方法

PDF
TL;DR提出了一种名为 PDBS 的新的上下文感知的文本对抗攻击模型，它使用概率差异对攻击路径进行选择，并使用波束搜索来寻找成功的攻击路径，实验证明 PDBS 在一系列评估指标上优于以前的最佳模型，特别是攻击成功率提高了 19.5%。
textual adversarial attackstext classifierspdbscontext-aware methodsbeam search
发现论文，激发创造
  • 通过 Beam Search 和混合语义空间生成高质量的文本对抗样本（High-quality Textual Adversarial Examples）

    本研究提出了 BeamAttack，这是一种文本攻击算法，利用混合语义空间和改进的 Beam 搜索来制作高质量的对抗攻击示例，可在对模型进行攻击时提高攻击成功率并节省大量查询和时间。

    Mar, 2023

  • 基于投影与概率的黑盒攻击

    通过压缩感知和概率驱动策略，利用少量请求达到更好的优化效果，从而解决黑盒攻击中存在的过多请求的问题，并在与其他攻击方法比较后证明其具有更高的攻击成功率。

    May, 2020

  • ADBA：黑盒对抗攻击的近似决策边界方法

    该论文介绍了一种使用近似决策边界（ADB）的新方法，通过快速识别适当的决策边界来有效且准确地比较扰动方向，进一步发展出 ADB 算法。ADB 算法仅平均需要四个查询来区分任意一对扰动方向，具有非常高的查询效率，在六个知名图像分类器的广泛实验证明了 ADBA 和 ADBA-md 优于多个最先进的黑盒攻击方法。

    Jun, 2024

  • 基于 BERT 的文本分类对抗样本

    本研究提出了一种基于 BERT 掩码语言模型的背后攻击方法（BAE），用于生成自然、语义和语法准确的对抗性示例，比目前基于规则的同义词替换策略生成的对抗性示例更具攻击性。

    Apr, 2020

  • 神经序列模型的多样性束搜索：解码多样性解决方案

    提出一种名为 Diverse Beam Search (DBS) 的算法，以优化多样性目标解码出一系列多样化的输出，旨在解决 Beam Search 算法在复杂人工智能任务解码过程中无法准确捕捉复杂任务本质的问题，并在图像字幕生成、机器翻译和视觉问答生成等任务中取得更好的性能表现。

    Oct, 2016

  • 生成自然语言攻击的上下文感知方法

    本研究探讨使用黑盒方法攻击自然语言处理模型的重要任务，并提出了一种攻击策略，通过考虑原始单词及其周围情境的信息来找到候选单词，并在上下文理解方面共同利用掩码语言模型和下一句子预测。与先前的攻击相比，我们能够生成高质量的对抗性示例，成功率和单词扰动百分比都有显著提高。

    Dec, 2020

  • BODEGA: 识别可信度中对抗样本生成的基准评估

    本文介绍了一种基于文本分类的检测系统『BODEGA』，用于检测虚假新闻、社交媒体机器人和宣传等误导信息。另外，作者们系统地测试了主流文本分类器的鲁棒性，并发现在某些情况下，即使输入文本略作修改，也会误导分类器的判断。

    Mar, 2023

  • QEBA: 基于边界的黑盒攻击高效查询方案

    本文介绍了一种基于模型终极预测标签的查询高效边界型黑盒攻击 (QEBA)，并在 ImageNet 和 CelebA 数据集上进行了广泛的实验。实验结果表明，与最先进的黑盒攻击相比，QEBA 能够使用更少的查询次数以更低的扰动量实现攻击，并在实际 API 上展示了攻击案例。

    May, 2020

  • 基于注意力偏置短语增强的情境化自动语音识别

    该论文提出了一种基于注意力的上下文偏置方法，利用可编辑的短语列表（称为偏置列表）来实现用户或开发人员的定制化，该方法通过组合偏置短语索引损失和特殊标记来有效地训练，以检测输入语音数据中的偏置短语。此外，为了进一步提高推理过程中的上下文化性能，我们提出了一种基于偏置短语索引概率的偏置短语增强（BPB）束搜索算法。实验结果表明，所提出的方法在 Librispeech-960（英文）和我们的内部（日文）数据集上一致改善了目标短语偏置列表的词错误率和字符错误率。

    Jan, 2024

  • MIXPGD: 语音识别系统的混合对抗训练

    本文提出 mixPGD 对抗训练方法以提高基于深度神经网络的自动语音识别系统的鲁棒性，实验表明该方法比以前的最佳模型在白盒对抗攻击设置下性能提高了 4.1％WER，并且在黑盒攻击设置下也表现出一定的防御能力。

    Mar, 2023