因果干预提升对抗视觉鲁棒性

Jun, 2021

Adversarial Visual Robustness by Causal Intervention

Kaihua Tang, Mingyuan Tao, Hanwang Zhang

TL;DR通过因果干预的方式，使用多个视网膜中心数据增强和线性响应空间插值，促进模型学习因果特征而提高其抗干扰能力，并以此为基础设计了一种集成了 Causal intervention by instrumental Variable (CiiV) 技术的训练方法，在 CIFAR-10、CIFAR-100 和 mini-ImageNet 数据集上对多种适应性攻击具有鲁棒性，适用于提高其他方法的抗干扰能力。

Abstract

adversarial training is the de facto most promising defense against adversarial examples. Yet, its passive nature inevitably prevents it from being immune to unknown attackers. To achieve a proactive defense, we need a more fundamental understanding of adversarial examples, beyond the

adversarial training causal intervention instrumental variable robustness adaptive attacks

发现论文，激发创造

通过对抗工具变量回归揭示对抗样本的因果特征和因果免疫，以实现鲁棒网络

本文提出了从因果关系的角度，采用对抗工具变量回归来研究对抗训练网络中的异常漏洞，探明了对抗样本固有的因果特征，并提出 CAFE 的防御方法，以改善对抗鲁棒性。

Mar, 2023

CausalAdv：因果视角下的对抗鲁棒性

本文利用因果分析来建模敌对攻击的产生过程，并定义敌对分布以形式化敌对攻击的直观；通过因果解释，本文提出了一种由 Causal inspired Adversarial distribution alignment 方法，CausalAdv，以消除自然分布和敌对分布之间差异的方法，并证明了该方法的有效性。

Jun, 2021

因果学习的生成式干预

介绍了一种学习鲁棒视觉表示的框架，该框架能够推广到新的视点、背景和场景环境，并利用干扰因素以制造人为干预特征，从而学习更加符合基础因果关系的鲁棒表示方法。实验证明，该方法提升了多个需要超出训练分布的数据集的性能，在从 ImageNet 到 ObjectNet 数据集进行无分布推广时展现出最先进的性能。

Dec, 2020

对抗样本是噪声下测试误差的自然结果

该研究提供了实证和理论证据表明对抗鲁棒性和图像损坏鲁棒性研究项目之间存在紧密联系，从而建议未来的对抗性防御应该考虑评估它们的方法对分布转移的鲁棒性。

Jan, 2019

对抗训练对基于不变性的对抗样本的影响

本研究探讨了针对卷积神经网络的不变性敌对样本进行对抗训练的影响，发现在敌对训练时同时使用基于扰动和基于不变性的敌对样本可以取得较高的鲁棒性。

Feb, 2023

使用因果不变性进行正则化的对抗模仿学习

使用因果不变性作为对抗训练模型的正则化原则，以缓解模型吸收专家数据中的虚假相关性，并在二维示例环境和高维机器人运动基准任务中展示了正则化公式的有效性。

Aug, 2023

通过对抗训练实现可解释的计算机视觉模型：揭示鲁棒性和可解释性的关联

通过对深度神经网络进行对抗训练，研究评估其对模型的鲁棒性和解释性的影响，证明了这两个问题之间的相关性。

Jul, 2023

自监督方法提高对抗性鲁棒性

本文首次提出了一种自我监督的对抗训练机制，在输入空间中防御对抗性攻击，并提供极大的鲁棒性，可以作为即插即用的解决方案来保护各种视觉系统，包括分类、分割和检测，同时极大降低了未知攻击的成功率。

Jun, 2020

图形对抗鲁棒性：不变因果防御

提出了一种旨在学习具有强预测性和不变性的因果特征以实现图形对抗鲁棒性的不变因果防御方法，称为 Invariant causal DEfense method against adversarial Attacks (IDEA)，并通过实验证明，在五个基准数据集上 IDEA 在毒害和逃避攻击下显着优于所有基线。

May, 2023

通过对抗训练和数据增强改进常识因果推理

本论文提出了多种技术手段，包括对抗训练、语言模型和数据增强等，用于提高模型在因果推理领域的性能和鲁棒性，这些方法均能使模型在 COPA 数据集上有显著改进。

Jan, 2021