本文通过实证研究语义解析在对抗攻击下的鲁棒性，提出了一种可扩展的方法来构建鲁棒性测试集，并回答了五个相关问题，检测了现有语义解析器在鲁棒性测试集上的表现，并评估了数据增强的效果。

Feb, 2021

本篇论文总结了近年来自然语言处理 (NLP) 的抗干扰性研究，并就技术、度量标准、嵌入、基准等维度深入探讨了该领域中存在的问题和待解决的方向。

Jan, 2022

本文提出了一个基于较大感兴趣区域的自然语言理解分类验证规范，并讨论了这一任务的挑战。我们观察到，虽然数据几乎可以线性分离，但验证器难以输出正面的结果，并解释了问题和影响。

Jun, 2022

本文针对任务导向的对话系统中的意图识别和参数标记存在的过度敏感问题，介绍了构建对抗性测试集和采用对抗性训练方法和数据增强来提高模型健壮性的解决方案。实验结果表明，这些技术的组合能显著提高系统的健壮性。

Nov, 2019

过去十年来，人们对神经网络的鲁棒性进行了广泛的研究，但这个问题依然没有得到很好的解决。在这篇论文中，我们提出了改进新方法的鲁棒性评估和减少错误评估的第一组先决条件，同时指出了面向开源模型中恶意内容生成的嵌入空间攻击作为另一个可行的威胁模型。最后，我们通过一个最近提出的防御方法进行演示，展示了在没有针对大型语言模型的最佳实践的情况下，过高估计新方法的鲁棒性的容易性。

Oct, 2023

本文介绍了一个名为 Robustness Gym 的情感模型评估工具，能够对广泛的文本数据和模型进行鲁棒性测试，并允许用户比较和开发各种评估方法，以验证模型的能力和性能。研究表明，在测试现实世界中的文本应用时，深度神经网络常常是脆弱的。与此同时，通过对抗攻击和基于规则的数据转换等多样化的评估方法，我们可以更好地测试这些模型的鲁棒性。使用该工具，我们能够在商业和学术领域中的命名实体链接（NEL）和摘要模型等方面，深入了解最新的研究成果，并检查其性能差异和缺陷。

Jan, 2021

本文提出了一种用于评估自然语言处理模型的新的抽象框架，通过明确研究人员之间的某些对抗角色，这有助于定义不同角色在评估中的贡献，并鼓励更早的错误分析，这个框架可以用多种方式实例化，并模拟一些熟悉的内部和外部评估以及一些新的评估。

Jul, 2012

针对自然语言处理领域中的同义词替换攻击问题，提出了一种基于随机平滑技术的认证鲁棒性方法，能证明某些输入不能通过任何同义词替换被修改，可以应用于各种预训练模型，在 IMDB 和亚马逊文本分类任务上表现优异，创造了 BERT 系统鲁棒性认证的最佳效果。

May, 2020

综述了最近几年针对 NLP 中深度神经网络面对对抗干扰的鲁棒性不足和易受攻击的挑战，提出了一种新的分类方法，介绍了不同的对抗防御方法和其在训练中作为正则化机制的应用，并指出了深度神经网络的脆弱性和对其进行防御面临的挑战。

Mar, 2022

AdvGraph 能够增强中文自然语言处理模型的鲁棒性，同时保持模型性能，将有意义的对抗性知识结合到输入的语义表示中，并在两个真实任务上得到更好的性能。

Feb, 2021