场景文本识别的自适应对抗攻击

Jul, 2018

Adaptive Adversarial Attack on Scene Text Recognition

Xiaoyong Yuan, Pan He, Xiaolin Andy Li, Dapeng Oliver Wu

TL;DR本文提出了一种自适应攻击（Adaptive Attack）的方法，利用每个任务的不确定性，直接学习自适应多任务的加权方法，以加速来自序列学习任务的对抗攻击方法，并获得了很好的成功率和速度提升，实现了针对场景文本识别的对抗攻击。

Abstract

Recent studies have shown that state-of-the-art deep learning models are vulnerable to the inputs with small perturbations (adversarial examples). We observe two critical obstacles in adversarial examples: (i) Strong adversarial attacks (e.g., C&W attack) require manually tuning hyper-

adversarial attacks deep learning sequential learning scene text recognition adaptive multi-task weightings

发现论文，激发创造

学习攻击：朝着在现实场景中的文本对抗攻击

该研究旨在阐述在自然语言处理领域，利用强化学习的攻击模型可以从历史攻击中学习，更高效地发起攻击，并对多项任务进行对比，实验证明其在攻击性和效率方面均优于其他基线方法。

Sep, 2020

机器翻译模型面对敌对攻击表现强劲

深度学习模型中的对抗攻击通过对输入进行微小扰动，从而导致输出发生重大变化。我们的研究重点是这种对抗攻击对序列到序列（seq2seq）模型的影响，特别是机器翻译模型。我们引入了基本的文本扰动启发式算法和更高级的策略，例如基于梯度的攻击，该攻击利用可微分逼近的非可微分翻译度量。通过我们的调查，我们提供了证据表明机器翻译模型对已知最佳对抗攻击显示出鲁棒性，因为输出中的扰动程度与输入中的扰动成正比。然而，在次优方法中，我们的攻击方法优于其他方法，提供了最佳的相对性能。另一个有力的候选方法是基于混合单个字符的攻击。

Sep, 2023

深度文本分类存在欺诈性

本文介绍了一种有效的方法来生成文本对抗样本，证明了基于深度神经网络的文本分类器同样容易受到对抗样本的攻击。通过计算代价梯度或者生成一系列遮盖测试样本，可以识别用于分类的文本信息，基于这些信息，设计了三种扰动策略（插入、修改、删除）来生成对抗样本。实验表明，基于我们方法生成的对抗样本可以成功欺骗基于字符和词语所的 DNN 文本分类器，并且可以扰动到任意的分类类别而不影响其实用性，同时所引入的扰动难以被发现。

Apr, 2017

面向神经网络的不可察觉且强韧对抗样本攻击

该研究提出了一种新的对抗样本攻击方法，考虑到人类感知系统并最大化制作的对抗样本的噪声容忍度，实验结果证明了该技术的有效性。

Jan, 2018

多任务学习增强对抗鲁棒性

深度网络在计算机视觉方面的准确性很高，但仍然容易受到对抗性攻击。本文理论和实验分析表明，训练模型的对抗鲁棒性与其训练任务的数量有关，多任务训练可以提高模型对单个任务的对抗攻击鲁棒性。尽管对抗防御仍是一个挑战，但本研究表明深度网络之所以容易受攻击，部分原因是它们只是在少数任务上进行了训练。

Jul, 2020

CAAD 2018: 迭代性集成对抗攻击

本文提出了一种针对图像分类器集合的迭代式对抗攻击方法，通过此方法，在 CAAD 2018 针对性对抗攻击竞赛中获得第五名，该方法提高了黑匣子对抗攻击的成功率。

Nov, 2018

对抗攻击下的稳健跟踪

本文提出了一种基于视频序列的对抗攻击和防御方法，通过考虑时间运动并生成轻量级扰动，有效提高了深度跟踪算法的鲁棒性，结果表明该方法不仅能消除对抗攻击带来的大幅性能下降，同时在未受到攻击时也能获得额外的性能增益。

Jul, 2020

视觉 - 语言模型上的少样本对抗性提示学习

通过限制数据和提供对抗文本监督，提出了一种少样本对抗提示框架，该框架在提高对抗鲁棒性方面表现出卓越的能力，并在仅使用 1％的训练数据时，达到了与最先进的零样本对抗鲁棒性相匹配的水平。

Mar, 2024

多任务学习中的隐藏任务的对抗攻击

该研究论文调查了针对多任务分类器中隐藏任务的攻击的可行性，提出了一种新颖的敌对攻击方法，利用非目标任务的知识和多任务模型的共享主干网络迫使模型遗忘与目标任务相关的知识，实验证明了该方法在削弱隐藏任务的准确性方面的有效性，并且保留了可见任务的性能，有助于了解多任务分类器中的敌对性漏洞。

May, 2024

自然语言处理中深度学习模型的对抗攻击调查

该研究综述了最近针对文本深度神经网络攻击的研究。通过研究，讨论了现有攻击对文本数据不可直接应用的问题，并提出了关于这个话题的建议。

Jan, 2019