ACLJun, 2021

可学习的文本后门攻击：基于词替换的组合锁攻击

PDF
TL;DR本文研究表明神经自然语言处理模型容易受到后门攻击的威胁，而现有文本后门攻击方法容易被检测和阻拦，因此我们提出一种使用可学习的词汇替换的不可见后门攻击方法，结果表明该方法在攻击成功率接近 100% 的情况下高度隐蔽，对于 NLP 模型的安全构成威胁，需要进一步研究解决。
neural natural language processingbackdoor attacksinvisible backdoorsword substitutionsecurity threat
发现论文，激发创造
  • 人类中心语言模型中的隐藏后门

    本文提出通过嵌入本质隐形且难以检测的触发器进行的 NLP 背门攻击，该攻击能超过多项 NLP 任务，例如有害评论检测，机器翻译和问答系统，能在维持正常使用的正常用户的同时，在不经意间实施高成功率的攻击。

    May, 2021

  • 文本数据的自然后门攻击

    本研究提出了针对 NLP 模型的 “自然后门攻击”，对文本数据进行触发器生成，并研究了不同类型的触发器，最终在文本分类任务上实现了 100% 的后门攻击成功率和 0.83% 的牺牲。

    Jun, 2020

  • 隐形杀手：带有语法触发器的不可见文本后门攻击

    本文研究基于句法结构的文字后门攻击方法，实验表明该方法具有相当的攻击性能，同时具有更高的隐蔽性和抵御防御的能力。

    May, 2021

  • BadNL: 含语义保持改进的自然语言处理模型后门攻击

    该文章就神经网络 (DNNs) 的后门攻击进行了系统研究，提出了一个新的 NLP 后门攻击框架，BadNL，其中包括了三种构造触发器的方法，即 BadChar、BadWord 和 BadSentence，攻击成功率几乎完美，并且几乎不影响原始模型的效用。

    Jun, 2020

  • 自然语言处理中后门攻击与防御的调查

    本文综述了深度学习在自然语言处理中的应用，分析了训练数据和模型面临的公开风险，着重探讨了后门攻击的前沿进展及其防御对策，并总结了基准数据集及其存在的问题，旨在设计更可靠的系统以保护模型安全。

    Nov, 2022

  • 基于词汇的零训练后门攻击语言模型

    本文提出了一种无需额外训练的语言模型后门攻击方法 TFLexAttack，通过操作 language model 的嵌入字典，向 tokenizer 注入词汇触发器，实现攻击的隐秘性，实验结果表明该攻击方法的普遍性和有效性。

    Feb, 2023

  • 两个简单技巧使得文本后门攻击更加有害

    本文针对深度学习领域的后门攻击进行研究，通过添加训练任务以区分被污染数据和干净数据，以及使用原有的干净数据进行攻击，提高攻击效果，并在三种场景下进行了实验验证。

    Oct, 2021

  • 防范隐蔽后门攻击

    本文介绍了一些针对语言处理模型的后门攻击进行的防御策略，并且实现了在提高模型对抗后门攻击效果的同时对模型本身影响较小的优化操作。

    May, 2022

  • 谨防中毒词嵌入：探究 NLP 模型嵌入层的漏洞

    该论文揭示了自然语言处理（NLP）模型的安全威胁，即后门攻击。通过修改一个单词嵌入向量，攻击者可以在没有损失准确率的情况下破坏模型的行为，同时引发了一个特定的触发词。实验结果表明，该方法更高效、更隐秘，可提高 NLP 模型的安全意识。

    Mar, 2021

  • 深度学习和语言模型中注入无法检测到的后门

    利用密码学技术，我们研究了机器学习模型中潜在的不可检测的后门问题，探索了外部专家公司设计模型中的潜在威胁，并引入了隐写功能来扩展神经网络后门攻击到语言模型中。

    Jun, 2024