跨输入认证培训：通用扰动

May, 2024

Cross-Input Certified Training for Universal Perturbations

Changming Xu, Gagandeep Singh

TL;DR我们提出了一种新的方法 CITRUS，用于训练网络以对抗 UAP 攻击者，通过广泛的评估表明，我们的方法在标准准确性方面表现出色（高达 10.3%），并在实际应用中实现了最佳认证 UAP 准确性指标的性能。

Abstract

Existing work in trustworthy machine learning primarily focuses on single-input adversarial perturbations. In many real-world attack scenarios, input-agnostic adversarial attacks, e.g. universal →

trustworthy machine learning adversarial perturbations universal adversarial perturbations certified training methods citrus

发现论文，激发创造

图像检索的通用扰动攻击

首次尝试以攻击图像检索系统为目标，利用新的方法生成反检索通用对抗扰动，通过降低相关的排名度量来打破图像特征之间的邻域关系。我们的方法通过多尺度随机调整大小的方案和排名蒸馏策略扩展攻击方法，并在四个广泛使用的图像检索数据集上进行了评估。在不同度量方面，如 mAP 和 mP @ 10 等，报告了显着的性能下降。最后，我们在实际的视觉搜索引擎 Google Images 上测试了我们的攻击方法，证明了我们的方法的实际潜力。

Dec, 2018

使用共享对抗训练来防御通用扰动

本文探讨了对抗性训练的有效性以及在减少通用扰动和提高模型性能之间的平衡问题，并在图像分类和语义分割方面展示了结果。

Dec, 2018

关于通用对抗干扰的无数据对抗检测的有效性

本论文提出了一种不需要原始训练数据即可计算 UAPs 的数据无关对抗性检测框架，并对各种文本分类任务进行了实验证明其具有竞争性的检测性能，且与正常推断相当。

Jun, 2023

通用对抗训练

本文研究的是生成通用对抗扰动和抵御这类扰动的有效方法，提出了一种简单的基于优化的通用攻击方法来降低各种网络的 ImageNet 上的准确性，并提出了一种通用对抗性训练来生成抗干扰的分类器。

Nov, 2018

通用对抗攻击综述

本研究总结了最近在通用对抗攻击领域里取得的进展，讨论了攻击和防御方面的挑战以及通用对抗攻击存在的原因，旨在成为一项动态研究，不定期更新其内容，包括图像、音频、视频和文本等多个领域，欢迎该领域的作者联系我们，以纳入您的新发现。

Mar, 2021

CR-UTP: 通用文本扰动的认证鲁棒性

通过引入一种新的方法，即优越提示搜索方法，我们首次实现了针对 Universal Text Perturbations（UTPs）和 input-specific text perturbations (ISTPs) 的高可证明准确性。

Jun, 2024

CD-UAP：类别判别通用对抗扰动

提出了一种新的通用攻击方法 CD-UAP, 可以生成一个唯一的通用扰动，以欺骗目标网络，使其错误分类只选定的类组，而对其余类组影响有限。通过基于各种损失函数配置的算法框架来设计并比较，其在各种基准数据集上进行了广泛的实验，获得了最先进的性能。

Oct, 2020

视觉语言预训练模型的普适对抗扰动

我们的研究通过提出新的黑盒方法生成有效且可转移的通用对抗扰动，以揭示 VLP 模型对于图像模态特定模式的不可感知扰动是否普遍敏感，进一步研究了增强 UAPs 的有效性和可转移性的方法，达到了有效且可传递的通用对抗攻击。

May, 2024

通用对抗性音频扰动

本文展示了普适对抗扰动的存在，基于一些新提出的方法，使用惩罚公式可以成功实现针对音频分类体系结构的有目标攻击和无目标攻击。

Aug, 2019

使用生成模型的可传递通用对抗扰动

本文提出了一种针对深度网络易受对抗扰动攻击的问题的方法，使用预训练网络生成图像无关对抗扰动（UAPs），并通过在源模型的第一层仅关注对抗能量的损失，提高了 UAPs 的传递性，并在实验中展示了该方法的优越性。

Oct, 2020