无监督对抗式检测无需额外模型：训练损失应改变

ICMLAug, 2023

无监督对抗式检测无需额外模型：训练损失应改变

Unsupervised Adversarial Detection without Extra Model: Training Loss Should Change

Chien Cheng Chyou, Hung-Ting Su, Winston H. Hsu

TL;DR深度学习模型中对抗鲁棒性是一个关键挑战。我们提出了新的训练损失和检测方法，可以减少不必要的特征，并且不需要先验对抗攻击类型的知识。该方法在各种攻击类型上具有良好的性能和低误报率。

Abstract

adversarial robustness poses a critical challenge in the deployment of deep learning models for real-world applications. Traditional approaches to adversarial training and supervised detection rely on prior knowl

adversarial robustness deep learning models adversarial training unsupervised adversarial detection training losses

发现论文，激发创造

自监督方法提高对抗性鲁棒性

本文首次提出了一种自我监督的对抗训练机制，在输入空间中防御对抗性攻击，并提供极大的鲁棒性，可以作为即插即用的解决方案来保护各种视觉系统，包括分类、分割和检测，同时极大降低了未知攻击的成功率。

Jun, 2020

标签是否需要以提高对抗性鲁棒性？

研究表明，使用未标记的数据进行训练可以作为对于耐受对抗攻击模型的有竞争力的替代方法，具体而言是在简单的统计情况下，学习对抗鲁棒模型的样本复杂度与完全受监督的情况一致。此外，使用未标记数据的无监督对抗训练方法可以在 CIFAR-10 这样的标准数据集上，使得鲁棒准确性比仅仅使用 4K 监督样例有 21.7% 的提升，并且可以捕捉到相同数量标记样例的改进量中超过 95% 的部分。最后，使用来自未筛选的 8000 万张小图片数据集的额外未标记数据，在 CIFAR-10 上击败了当前已知最强的攻击，展示了我们的发现也适用于未筛选的现实情况，从而为提高对抗训练打开了新的途径。

May, 2019

目标检测情境下的零数据模型提取攻击

通过生成器人工策划的查询，对于第一次扩展到用于预测物体检测中的边界框坐标的回归问题的黑盒子攻击，提出了一个无数据模型提取技术，发现定义损失函数和使用新型生成器设置是提取目标模型的关键。所提出的模型提取方法通过合理的查询取得了显著的结果，该物体检测漏洞的发现将有助于未来保护这类模型的前景。

Aug, 2023

基于硬标签的小样本黑盒对抗攻击

提出了一种新的针对硬标签的黑盒攻击的优化方法，利用经预训练的替代模型指导优化过程，实验证明该方法在不同目标模型架构下显著提高了攻击的查询效率，攻击成功率较基准测试提高了约 5 倍，特别是在 100 和 250 个查询预算下。

Mar, 2024

通过匹配预测分布进行对抗性检测和纠正

提出了一种新颖的对抗检测和修正方法，利用自动编码器和基于 KL 散度的自定义损失函数实现分类器的预测和重构实例之间的比较，该方法是无监督的、易于训练的，并不需要关于基础攻击的任何知识。在 MNIST 和 Fashion-MNIST 上，检测器几乎完全中和了像 Carlini-Wagner 或 SLIDE 这样的强大攻击，在攻击袭击者可以完全访问分类模型但无法访问防御情况下，对 CIFAR-10 仍然非常有效。我们展示了我们的方法仍然能够检测到对抗性例子，在攻击者对模型和防御都有充分了解的白盒攻击情况下并研究了攻击的鲁棒性。该方法非常灵活，还可以用于检测常见的数据损坏和扰动，从而对模型表现产生负面影响。我们在 CIFAR-10-C 数据集上介绍了这种能力。

Feb, 2020

对抗性自监督对比学习

本文提出一种新的对未标记数据的敌对攻击方法，并提出了一种自监督对比学习框架来实现无标记数据的敌对训练，旨在最大化数据样本的随机扩增和其实例级对抗扰动之间的相似度。我们在多个基准数据集上验证了我们的方法，发现它在鲁棒精度方面与最先进的有监督敌对学习方法相当，并且对于黑盒和未知类型的攻击具有显着的提高鲁棒性。此外，通过进一步联合微调有监督对抗损失，我们的方法可以获得更高的鲁棒精度，特别是在鲁棒迁移学习方面取得了令人瞩目的结果。

Jun, 2020

揭示针对说话人识别的对抗样本 -- 攻击检测和受害模型分类的技术

提出了一种检测对抗性示例的方法，基于新的架构进行攻击类型分类并介绍一种对受害模型进行识别的方法，获得了较高的检测准确率和分类准确率。

Feb, 2024

物体检测中的类别感知鲁棒性对抗训练

本文提出一种新颖的、针对目标检测任务的类感知鲁棒性对抗训练范式，旨在提高目标检测模型的鲁棒性，并通过广泛实验验证了该方法的有效性。

Mar, 2021

对抗式标签学习

该研究提出了一种弱监督方法 —— 敌对标签学习，通过对抗生成器为训练数据选择标签，以历经多个真实数据集的实验证明，在无监督的情况下训练分类器，并通过保护上面部分的误差率最小值以避免偏差和依赖性等问题，有助于有效提高训练效果。

May, 2018

插值对抗训练：在不牺牲过多准确性的情况下实现强大的神经网络

本论文提出了一种名为 Interpolated Adversarial Training 的对抗性训练方法，它采用最近提出的基于插值的训练方法来提高对抗鲁棒性，并以 CIFAR-10 数据集为例进行了实验证明，相较传统对抗性训练方法，该方法可以在保持对抗鲁棒性的同时取得更好的泛化性能与更低的标准测试误差。

Jun, 2019