Sep, 2023

SWAP: 時序上對第二高分數利用的對抗攻擊

PDF
TL;DR时间序列分类是各个领域中的一个关键任务，深度神经模型在时间序列分类任务中展现出了卓越的性能。然而，这些模型容易受到对抗性攻击的影响，我们提出了一种名为 SWAP 的全新攻击方法，该方法能够提高次优预测的置信度，并通过最小化 Kullback-Leibler 散度来实现。实验证明，SWAP 方法取得了最先进的性能，攻击成功率超过 50%，相比现有方法提高了 18%。
发现论文，激发创造
  • 增加逻辑回归边缘的一对多损失切换以提高对抗性鲁棒性

    本文通过对 logit margins 的研究，提出了 SOVR 方法来提高 Adversarial training 的威胁鲁棒性并且在实验中展示了其效果。

    Jul, 2022

  • 面向时间序列分类的深度神经网络的对抗攻击

    本文研究了深度学习在时序数据挖掘中的应用，提出了针对时序数据的敌对攻击机制，并揭示了当前的深度学习时序分类器在面对敌对攻击时的脆弱性，揭示出在食品安全和质量保障等领域中的深刻后果。

    Mar, 2019

  • 通过标准化逻辑输出校准和截断特征混合改进可转移的有针对性对抗攻击

    本文旨在提高有针对性攻击中对抗样本的可转移性，通过在损失和特征方面提出两种不同的改进方法。首先，我们引入了一种新的规范化对数准确度校准方法，它同时考虑了对数边界和对数的标准差。其次，我们进一步研究了截断特征混合方法来减小源训练模型的影响，从而实现了额外的改进。在 ImageNet-Compatible 和 CIFAR-10 数据集上进行的实验证明了我们提出的两个组件的个别和相互优势，在黑盒有针对性攻击中取得了领先于现有方法的大幅度改进。

    May, 2024

  • Logit Pairing 方法可以欺骗基于梯度的攻击

    通过研究，我们发现 Clean Logit Pairing (CLP) 和 Logit Squeezing (LSQ) 等方法仅仅增加了制造对抗样本的梯度优化难度并未真正提高分类器的对抗鲁棒性；我们提出的 Adversarial Logit Pairing (ALP) 方法可以在对抗训练的情况下提高分类器的对抗鲁棒性，但是这种提高远远低于之前所声明的。我们得出的结论是，模型对迭代 PGD 攻击的评估严重依赖所使用的参数，并可能导致关于模型鲁棒性的错误结论。

    Oct, 2018

  • 关于成功和简单性的再探：可传递的有针对性攻击

    通过发现简单易用的可转移攻击可以取得很高的目标转移性能，本文提出了新的针对传输设置的评估方法，并显示了使用 logit loss 方法生成目标通用对抗扰动的有效性。

    Dec, 2020

  • 通过翻转有限位进行多功能权重攻击

    本文研究了一种新的攻击模式：修改部署阶段的模型参数，提出了一种自定义有效性和隐蔽性的比特翻转权重攻击通用公式，并通过整数规划和交替方向乘子方法在优化中确定了翻转关键比特，成功表明了单一样本攻击和触发样本攻击策略在攻击深度神经网络方面的优越性。

    Jul, 2022

  • 对具有实体交换的表格的对抗性攻击

    通过采用相似度采样策略，我们提出了一种黑盒攻击表格的逃避性实体交换攻击，该攻击是针对列类型注释任务的第一个黑盒攻击，实验结果表明，所提出的攻击导致性能下降了高达 70%。

    Sep, 2023

  • 基于随机点击模型的在线学习排序的对抗攻击

    本文提出针对在线学习排名的对抗攻击研究，依托排名列表污染来攻击 OLTR 算法，实验结果验证了该攻击策略的有效性和成本效益。

    May, 2023

  • 时间序列的对抗性攻击

    本文提出了利用敌对性转换网络（ATN）攻击不同时间序列分类模型的方法，并在多个数据集上展示了攻击的成功。最后，作者建议未来的时间序列分类模型研究者将敌对数据样本纳入训练集以提高模型的鲁棒性和考虑模型的抗干扰能力作为评估指标。

    Feb, 2019

  • 文本到图像生成中的非对称偏差与对抗攻击

    对文本到图像模型中的对抗攻击进行了实证研究，发现了攻击成功率的相关因素，提出了实体替换的新攻击目标，分析了对抗攻击的指标，以及成功概率高和低的条件。

    Dec, 2023