本文提出了一种称为 DeepWordBug 的算法，它可以在黑盒设置下生成小的文本扰动以强制深度学习分类器错误地分类文本输入，并通过基于词的 LSTM 和基于字符的 CNN 等八个真实世界文本数据集的实验表明，我们的算法可以有效地降低当前最先进的深度学习模型的预测准确性。

Jan, 2018

在本文中，我们提出了一个针对更广泛的对抗性攻击类别的框架，旨在对机器生成的内容进行微小扰动以逃避检测，通过对动态场景中的对抗性学习来评估当前检测模型对这种攻击的鲁棒性的潜力提升。实证结果发现，现有的检测模型可以在仅 10 秒内受到破坏，将机器生成的文本误分类为人类撰写的内容。尽管观察到模型鲁棒性方面的一些改进，但实际应用仍面临重大挑战，这些发现为 AI 文本检测器的未来发展提供了启示，强调了对更准确和鲁棒的检测方法的需求。

Apr, 2024

本研究提出了一种名为 IT-DT 的框架，它关注于解释性和透明性来检测和转换文本对抗性示例，以改善 Transformer-based 文本分类器对抗攻击的鲁棒性和可靠性。框架使用技术如注意力映射和模型反馈进行解释性检测，在识别对抗分类和确定模型漏洞方面具有显著效果。在转换阶段，IT-DT 利用预训练的嵌入和模型反馈来生成针对扰动单词的最佳替换，帮助将对抗示例转化为非对抗，从而保持文本的意义和模型预期行为一致。IT-DT 框架通过人工专家的参与提高透明度，增强复杂情况下的决策能力。

Jul, 2023

本文对英语和中文文本领域的生成对抗性文本的对抗攻击和防御方法进行了全面的调查，并基于干扰单位对现有的对抗技术进行分类，从不同的自然语言处理任务的视角介绍了对抗技术，并从根源上探讨了领域中对抗攻击和防御的挑战和未来研究方向。

Feb, 2019

本文通过收集 Transformer-based 工具生成的 deepfake 文本从而评估现有方法在野外环境中实际应用的能力，并通过对抗攻击研究对现有防御措施的稳健性。研究发现，将文本内容中的语义信息引入是提高 deepfake 文本检测方案鲁棒性和泛化性能的有效途径。

Oct, 2022

针对预训练语言模型容易受到对抗攻击的问题，提出了一种基于异常检测和随机化的通用防御框架。该框架针对性不强，能够有效地弥补其他防御方法的不足，同时本研究也揭示了文本对抗攻击的本质，并提出了应该加强对谨慎攻击方法的研究。

Jul, 2022

本论文提出了基于字符和词语的变异操作方法，用于生成对抗样本以攻击最先进的自然文本检测器，从而逐渐减少机器学习模型和分类器的预测准确性。

Feb, 2023

本文提出了新算法 ANTHRO，利用文本扰动实现对一个基于 BERT 的分类器进行对抗性攻击，并达到了攻击成功率高，语义保留性好，难以察觉等目标效果，可用于对抗训练。

Mar, 2022

利用对抗正则化自编码器 (ARAE) 和梯度搜索等技术，对现代文本分类器进行了对抗攻击，生成的词组比先前模型更接近自然的英语短语，并能在被加入到输入文本后成功混淆分类器，并且难以被自动检测或人为辨识。该研究的目的是展示对抗攻击可以比先前认为的更难被检测到，并推动防御技术的发展。

May, 2020

本文提出了一种新的对抗攻击策略，旨在找到与原始文本相似度极高的对抗文本，同时引入最小扰动；实验结果表明，与现有攻击方法相比，我们的方法在四个基准数据集上的成功率更高，扰动率更低。

Nov, 2022