ICLRJun, 2021

CausalAdv：因果视角下的对抗鲁棒性

PDF
TL;DR本文利用因果分析来建模敌对攻击的产生过程，并定义敌对分布以形式化敌对攻击的直观；通过因果解释，本文提出了一种由 Causal inspired Adversarial distribution alignment 方法，CausalAdv，以消除自然分布和敌对分布之间差异的方法，并证明了该方法的有效性。
adversarial attackscausalitydeep neural networksrobustnessdistribution change
发现论文，激发创造
  • 攻击何时何地？一种基于因果关系的生成反事实对抗样本的方法

    通过考虑因果生成过程，我们通过因果关系解释深度神经网络脆弱性的源头，给出了理论结果来回答攻击的目标所在。为了更真实地生成对抗性示例，我们提出了 CADE 框架，可以生成反事实的对抗性示例，并在白盒、基于迁移的以及随机干预攻击等各种攻击场景中表现出竞争力。

    Dec, 2023

  • 因果干预提升对抗视觉鲁棒性

    通过因果干预的方式，使用多个视网膜中心数据增强和线性响应空间插值，促进模型学习因果特征而提高其抗干扰能力，并以此为基础设计了一种集成了 Causal intervention by instrumental Variable (CiiV) 技术的训练方法，在 CIFAR-10、CIFAR-100 和 mini-ImageNet 数据集上对多种适应性攻击具有鲁棒性，适用于提高其他方法的抗干扰能力。

    Jun, 2021

  • 对抗性样本的（不）可避免性

    该研究提出了一个确定深度学习模型标签更改是否合理的框架，并且定义了一个自适应的鲁棒性损失，使用导出的经验公式，开发了相应的数据增强框架和评估方法，证明了其对确定性标签下的一阶最近邻分类的维持一致性，并提供了实证评估结果。

    Jun, 2021

  • 通过对抗双机器学习进行因果参数估计来减轻对抗性漏洞

    本文介绍了一种因果方法 ADML，通过量化网络预测的敏感程度和影响，直接估计对抗攻击的因果参数，并在 CNN 和 Transformer 等不同架构上进行广泛实验，证明了 ADML 的优越性和可行性。

    Jul, 2023

  • 围攻电网事件原因分析：一种对抗性机器学习方法

    本文探讨了针对数据驱动应用中出现的恶意攻击对卷积神经网络（CNN）事件原因分析框架的影响，并通过实时数字模拟器（RTDS）生成的数据分析了不同攻击类型和数据访问级别下攻击的有效性和防御机制。

    Nov, 2019

  • 异质数据空间个体公平性和鲁棒性的因果对抗扰动

    我们提出了一种新颖的方法，通过研究个体公平性、对抗鲁棒性和结构因果模型之间的关系，特别是在处理离散敏感属性时，来实现个体公平性、对抗鲁棒性和因果性的综合应用。通过引入新的因果对抗扰动和对抗训练，我们创建了一个将个体公平性、因果性和鲁棒性相结合的新的正则化项，并在真实世界和合成数据集上对我们的方法进行了评估，证明了其在实现公平、对抗鲁棒和因果感知的分类器方面的有效性。

    Aug, 2023

  • 深度学习中的对抗性示例：攻击与防御

    本文研究深度学习中的对抗样本问题，总结了生成对抗样本的方法，提出了对抗样本的应用分类，并探讨了对抗样本的攻击和防御策略以及面临的挑战和潜在解决方案。

    Dec, 2017

  • 基于因果分析的归因检测对抗样本

    使用涉及一系列方法来解释机器学习模型的决策，研究表明这种方法可以用于确定高属性特征的影响并检测出恶意攻击。

    Mar, 2019

  • 图形对抗鲁棒性：不变因果防御

    提出了一种旨在学习具有强预测性和不变性的因果特征以实现图形对抗鲁棒性的不变因果防御方法，称为 Invariant causal DEfense method against adversarial Attacks (IDEA)，并通过实验证明，在五个基准数据集上 IDEA 在毒害和逃避攻击下显着优于所有基线。

    May, 2023

  • 衡量因果解缠对神经网络模型对抗鲁棒性的影响

    量化研究表明，因果神经网络模型通过解耦因果和混淆信号，在对抗性攻击、少样本学习和罕见上下文分类等任务中表现出高的鲁棒性，但尚未进行定量研究以衡量这类因果模型所实现的解耦程度及其与对抗性鲁棒性的关系。本论文使用计算机视觉领域的内容 / 风格解耦计量指标来测量四种最先进的因果神经网络模型的不同因果解耦方面，发现模型解耦因果信号和混淆信号的程度与对抗鲁棒性之间存在显著相关性（r=0.820，p=0.001），同时发现混淆信号在像素级别的信息内容与对抗鲁棒性呈负相关（r=-0.597，p=0.040）。

    Aug, 2023