本文提出了一种随机遮挡的可证明鲁棒防御方法，对于 AGNEWS 数据集上五个词，SST2 数据集上两个词的任意扰动分类可以获得超过 50% 的证明鲁棒性，并在多个数据集上明显优于最近提出的防御方法。

May, 2021

针对自然语言处理领域中的同义词替换攻击问题，提出了一种基于随机平滑技术的认证鲁棒性方法，能证明某些输入不能通过任何同义词替换被修改，可以应用于各种预训练模型，在 IMDB 和亚马逊文本分类任务上表现优异，创造了 BERT 系统鲁棒性认证的最佳效果。

May, 2020

本研究提出了一种基于 Randomized Substitution and Vote 方法的文本对抗样本检测技术，该技术能够有效地检测文本对抗样本，同时不影响神经网络在正常样本上的分类精度。

Sep, 2021

本文调查了针对 BERT 的四种基于词汇替换的攻击方法，结合人类评估和概率分析，发现 96% 至 99% 的攻击并不能维护语义，其成功性主要基于将质量较差的数据输入模型中。作者进一步提出了有效的数据增强方案，以防止许多对抗性攻击。最终，通过对词汇更换的约束条件设定更合理的阈值，作者得出结论：BERT 比攻击研究所说的要更加健壮。

Sep, 2021

通过引入一种新的方法，即优越提示搜索方法，我们首次实现了针对 Universal Text Perturbations（UTPs）和 input-specific text perturbations (ISTPs) 的高可证明准确性。

Jun, 2024

本文提出了一种新颖的 extit {Adversarial Sparse Convex Combination} (ASCC) 方法，将单词替换攻击空间建模为一个凸包，并利用正则化项来实现对实际替换的扰动，从而更好地对齐离散文本空间。基于 ASCC 方法，进一步提出 ASCC-defense，它利用 ASCC 生成最坏情况扰动，并结合对抗性训练以实现鲁棒性，实验结果表明，在多个模型架构和多种攻击下，ASCC-defense 在情感分析和自然语言推理这两个主要 NLP 任务中表现优于目前的最新技术，同时本文还展示了一种新的防御方式，该防御方式将我们的鲁棒性训练的单词向量插入到一个正常训练的模型中，从而提高其鲁棒性。

Jul, 2021

本文提出了一种使用 deobfuscation 和 CW2V 嵌入的强健分类管道，用于检测 Facebook 帖子是否请求参与（例如点赞）。在针对有意和无意的对抗文本扰动方面，CW2V 嵌入的强健性优于基于字符 ngram 的嵌入，其分类结果在扰动下的 AUC 从 0.70 降至 0.67，而字符 ngram 嵌入的分类结果从 0.76 降至 0.64。

Feb, 2022

通过研究标签平滑策略在 NLP 领域不同任务中的应用，发现其可以有效地提高预训练模型的对抗鲁棒性，特别是在对抗攻击方面，并降低过度自信错误。

Dec, 2022

本文从因果的角度探讨了深度学习模型在面对对抗性示例时的容易受到攻击的漏洞，提出了一种新的对抗性攻击防御框架 CISS，该框架采用平滑的方式在潜在的语义空间中学习因果效应，并在深层次结构的规模上实现了鲁棒性，并避免了为特定攻击定制噪声的繁琐构建。实验证明该框架能够抵御词语替代攻击，即使是强化了未知攻击算法的扰动。例如，对于 YELP，CISS 在认证鲁棒性方面超越亚军 6.7％，并在综合了语法攻击之后达到 79.4％的经验性鲁棒性。

May, 2022

本文利用 Interval Bound Propagation（IBP）训练了第一个能够抵御包括词语替换在内的 label-preserving 转换攻击的 NLP 模型，该模型在情感分析与自然语言推理任务上取得了 75% 的对抗准确率，远高于传统训练模型和数据增广训练模型的 8% 和 35%。

Sep, 2019