Mar, 2024

SSCAE -- 语义、句法和上下文感知的自然语言对抗样本生成器

PDF
TL;DR提出了一种名为 SSCAE 的自然语言生成器模型，它是一种实用且高效的对抗性攻击模型，能够生成具有语义、句法和上下文感知的自然语言对抗性示例，通过比较实验和参数优化敏感性分析验证了该模型的有效性和优越性。
machine learning modeladversarial examplesnatural language processingsscaesemantic consistency
发现论文，激发创造
  • 生成自然语言攻击的上下文感知方法

    本研究探讨使用黑盒方法攻击自然语言处理模型的重要任务，并提出了一种攻击策略，通过考虑原始单词及其周围情境的信息来找到候选单词，并在上下文理解方面共同利用掩码语言模型和下一句子预测。与先前的攻击相比，我们能够生成高质量的对抗性示例，成功率和单词扰动百分比都有显著提高。

    Dec, 2020

  • 基于 BERT 的文本分类对抗样本

    本研究提出了一种基于 BERT 掩码语言模型的背后攻击方法（BAE），用于生成自然、语义和语法准确的对抗性示例，比目前基于规则的同义词替换策略生成的对抗性示例更具攻击性。

    Apr, 2020

  • 面向神经机器翻译的短语级对抗样本生成

    本研究提出了一种基于短语级别替代策略的对抗样本生成框架（PAEG）以提高神经机器翻译从业者的鲁棒性和性能表现。实验证明，相较于单纯的字级替代方法，我们的方法可以显著提高翻译性能和抗噪性。

    Jan, 2022

  • SSTA: 显著空间变形攻击

    本文提出了一种新颖的框架 Salient Spatially Transformed Attack (SSTA)，用于生成不可察觉的对抗性样本（AE），通过在最关键区域上估计平滑的空间变换度量来提高 AE 的隐匿性，相比其他方法，SSTA 在保持 100% 攻击成功率的同时，有效提升了 AE 的隐匿性。

    Dec, 2023

  • 针对对抗性输入的神经自动化论文评分和连贯性建模

    研究 AES 中的对手输入问题，提出了基于神经网络的局部连贯模型，与现有 AES 模型联合训练，实现了对对手输入的有效识别，从而提高了神经作文评分模型的准确性。

    Apr, 2018

  • 对语音情感识别模型的对抗攻击进行系统评估

    这项研究评估了深度学习模型在语音情感识别中面临的对抗性攻击问题，发现 CNN-LSTM 模型对对抗示例非常脆弱，且攻击对不同语言和性别的影响差异较小。该研究为提高语音情感识别算法的鲁棒性，设计更有效的攻击、探究可能的防御方法以及加深我们对语言和性别差异的理解提供了基线数据。

    Apr, 2024

  • ReinforceBug：生成对抗文本样本的框架

    本文提出了一种基于强化学习框架的 ReinforceBug 方法，可以生成保持功能等效性和语义相似性的可转移的 Adversarial Examples ，目标模型平均置信度为错误预测，与 TextFooler 相比，攻击成功率平均提高 10％，在其他模型上具有平均 46％的成功率。

    Mar, 2021

  • 基于语义矛盾检测对抗样本：你看到的不是网络看到的

    本研究提出了一种基于 ContraNet 框架和 metric learning 的新型 adversarial examples 检测方法，具有识别能力强、鲁棒性高和易于与其他防御技术相结合等优点。

    Jan, 2022

  • 句法控制释义网络生成对抗性样本

    通过建议句法控制的转述网络，生成对抗样例，数据来自大规模的回译，尝试指定目标句法，通过人工和自动化评估表明此系统可以发现还原目标规范且性能不亚于现有对照组，增强了对语法变化的鲁棒性。

    Apr, 2018

  • 跨语言结构化情感分析的知识增强对抗模型

    本文提出了一个基于知识增强的对抗模型（KEAM），采用对抗性的嵌入适配器来提高跨语言传输效果，并采用句法 GCN 编码器以传输显式的语义，并在五个数据集上进行实验，结果显示 KEAM 模型在多个指标上优于传统的无监督方法。

    May, 2022