本研究通过构建 RobuT 数据集，含有表头、表内容及问题中的对抗性干扰，对现有表格问答模型的鲁棒性进行了评估，并提出利用大型语言模型生成对抗样本以增强训练，从而显著提高表格问答模型的鲁棒性。

Jun, 2023

本论文提出了一个名为 PLAT 的短语级文本对抗攻击方法，通过短语级扰动来生成对抗性样本，并结合上下文化生成方式来保持文本流畅性和句法通顺性。同时，作者还开发了一个基于类别似然的标签保持过滤器，来排除潜在导致文本分类错误的扰动。实验证明，PLAT 不仅有着比强基线更优越的攻击效果，同时还具有更好的标签一致性。

May, 2022

本文提出了一种基于恶意扰动的恶意对抗训练方法 (MPAT)，用于构建对文本对抗攻击具有鲁棒性的深度神经网络。该方法通过生成恶意样本来替代原始输入进行模型训练，并采用新的训练目标函数以实现在不降低原始任务性能的情况下达到防御目标。实验结果表明，相比于先前的防御方法，我们的方法在对抗恶意攻击时更加有效，同时保持或进一步提高原始任务的性能。

Feb, 2024

通过采用相似度采样策略，我们提出了一种黑盒攻击表格的逃避性实体交换攻击，该攻击是针对列类型注释任务的第一个黑盒攻击，实验结果表明，所提出的攻击导致性能下降了高达 70%。

Sep, 2023

本文提出了一种统一的自动鲁棒性评估框架 RobTest，通过针对模型能力建立鲁棒性评估维度、生成不同维度下的对抗样本，最终实现自动鲁棒性评估。实验结果表明，该框架能有效评估 RoBERTa 模型的鲁棒性。

May, 2023

本文提出了一个跨领域文本到 SQL 基准（Spider）的综合健壮性评测来诊断模型的鲁棒性，并设计了 17 个数据库、自然语言问题和 SQL 查询的扰动来从不同角度衡量其鲁棒性。实验结果表明，即使是最鲁棒的模型在最具挑战性的扰动上也会出现 50.7% 的性能下降，分析了文本到 SQL 模型设计并提出了改进鲁棒性的见解。

Jan, 2023

针对深度表格模型的健壮性评估和对抗攻击的研究，提出 CAA 对约束表格深度学习模型进行攻击，构建深度表格模型的健壮性评估基准，为提高深度表格模型在各种对抗攻击场景下的健壮性提供安全实践建议。

Nov, 2023

对抗攻击是安全中心应用中的主要问题，我们提出了一种新的对抗性训练方法，能够预防攻击对机器学习模型的性能造成较大影响，特别是在信用卡欺诈检测领域。

Jul, 2023

本文重新思考了 Textual Adversarial Samples 在安全场景下的研究范式，提出了安全导向的对抗性 NLP (Security-oriented adversarial NLP，SoadNLP) 的研究重点应该放在考虑真实的对手目标，并以此为基础设计实际有用的攻击和防御方法，为此我们创建了一个新的数据集 Advbench，并提出了可通过启发式规则简单实现真实对手目标的方法。通过实验，我们的方法表现获得了更高的实际价值，为 SoadNLP 的研究提供了一个新的基准。

Oct, 2022

本文提出了一个名为 A2 的高效自动攻击者，它能够在训练过程中实时生成最优扰动，并证实其强制扰动能够有效提高不同数据集上各种对抗训练方法的鲁棒性。

Oct, 2022