超越像素范数球：利用解析可微分渲染器的参数对抗

Aug, 2018

超越像素范数球：利用解析可微分渲染器的参数对抗

Beyond Pixel Norm-Balls: Parametric Adversaries using an Analytically Differentiable Renderer

Hsueh-Ti Derek Liu, Michael Tao, Chun-Liang Li, Derek Nowrouzezahrai, Alec Jacobson

TL;DR通过直接扰动计算机视觉中的物理参数，如照明和几何形状参数，我们提出了一种新的参数规范来评估分类器对敌对攻击的鲁棒性，我们还提出了一种可微分渲染器，以便将梯度传播到物理参数空间，并实现了一种记忆高效且可扩展的敌对数据增强方法。

Abstract

Many machine learning image classifiers are vulnerable to adversarial attacks, inputs with perturbations designed to intentionally trigger misclassification. Current adversarial methods directly alter pixel colors and evaluate against pixel norm-balls: pixel perturbations smaller than

adversarial attacks machine learning image classification physical parameters differentiable renderer

发现论文，激发创造

图像空间之外的对抗攻击

本文针对深度神经网络生成对抗样本的问题展开了研究，提出了针对 3D 物理性质改变的对抗样本生成方法，并通过在 2D 输入图像前增加可渲染模块的方式，成功地将对抗扰动提升到物理空间，检验了所设计的方法的有效性。

Nov, 2017

语义对抗攻击：参数转换欺骗深度分类器

本文通过对参数条件生成模型的范围空间进行对抗性损失的优化，提出了一种新颖的方法来生成 “语义” 对抗性示例，并在面部图像上展示了其攻击的效果。

Apr, 2019

PixelDefend：利用生成模型理解和防御对抗样本

本文提出了一种名为 PixelDefend 的新方法，可以通过将恶意扰动图像移回训练数据中所看到的分布来净化这些图片，然后在经过未经修改的分类器时进行分类，从而大大提高了各种最先进攻击方法的弹性。

Oct, 2017

使用像素偏移抵御对抗性攻击

针对 CNN 在面对对抗性攻击时容易被操控的问题，提出了一种基于像素偏转和小波去噪的算法，该算法通过改变图像像素值使其符合自然图像统计规律从而增强模型的鲁棒性，且不需要额外的重新训练或修改 CNN。

Jan, 2018

使用知觉球上的对抗扰动解释分类器

本文提出了一种基于视觉损失的对敌对扰动的简单正则化方法，用于解释图像分类器中的图像分类。这种半稀疏的扰动可以突出对象和感兴趣区域，使其与背景明显不同。通过在多个可解释性基准测试中进行评估，包括局部化、插入删除和指向游戏，证明了感知正则化反事实是图像分类器的有效解释。

Dec, 2019

稀疏且不易察觉的对抗攻击

本文提出了一种基于黑盒技术的新型对抗样本攻击方法，针对原始图像最小化 l0 距离。实验证明，该攻击方法优于或与现有技术相当。同时，我们可引入部件约束来提高分类器对稀疏和不可察觉的对抗性操纵的鲁棒性。

Sep, 2019

感知空间中的空间变换对抗性图像生成

基于感知色彩空间和空间变换的对抗例子生成方法具有高置信度和有利的近似感知距离结果。

Oct, 2023

像素是一道屏障：扩散模型比我们认为的更具对抗性的鲁棒性

通过对扩散模型中的对抗性示例进行研究，我们发现扩散模型在像素空间中对抗性示例 (即 PDMs) 具有较强的鲁棒性，并可用作有效去除对 LDMs 生成的对抗性模式的净化器，使得现有的多种保护方法在一定程度上无法有效保护我们的图像。

Apr, 2024

隐形的贴片：自然黑盒对目标检测器的敌对攻击

该研究提出一种基于生成对抗网络（GAN）图像流形和物理世界的无梯度攻击方法，用于生成自然物理的对抗贴片以欺骗对目标物体检测器的分类。结果表明，该方法在数字和物理场景下均有效。

Mar, 2023

生成对抗扰动

该研究提出了新型生成模型，用于制造近似自然图像但又能欺骗先前训练好的模型的略微扰动的对抗性样本。通过在具有挑战性的高分辨率数据集上的实验，它证明了这种扰动具有高弄虚率和较小的扰动规模，并且比当前的迭代方法更快。

Dec, 2017