卷积填充与对抗鲁棒性的相互作用

ICCVAug, 2023

卷积填充与对抗鲁棒性的相互作用

On the Interplay of Convolutional Padding and Adversarial Robustness

Paul Gavrikov, Janis Keuper

TL;DR我们在这项工作中展示了对抗攻击经常在图像边界产生扰动异常，而图像边界正是使用 padding 的区域；因此，我们旨在分析 padding 与对抗攻击之间的相互作用，并探讨不同 padding 模式（或其缺失）对各种情境下的对抗鲁棒性的影响。

Abstract

It is common practice to apply padding prior to convolution operations to preserve the resolution of feature-maps in convolutional neural networks (CNN). While many alternatives exist, this is often achieved by a

padding convolutional neural networks adversarial attacks perturbation anomalies adversarial robustness

发现论文，激发创造

利用周边预测填充改进卷积神经网络中的翻译不变性

本文提出了一种名为 PP-Pad 的新型填充方法，该方法可以进行每个任务的填充值的端到端训练，从而取代了零填充方法，同时还提出了一种评估模型平移不变性的新方法，在一个语义分割任务中，这种方法实现了比以往方法更高的精度和平移不变性。

Jul, 2023

调查和揭示卷积神经网络对对抗扰动的特征级漏洞

通过对深度学习模型的不同层进行敌对性扰动攻击验证，研究表明浅层的通道组合对模型的干扰较大，在不同攻击类型中具有共享的易受攻击通道组合，而不同攻击对隐藏表示的影响存在差异且与卷积核大小呈正相关，以此为基础为未来应用开发高效的应对性防御机制奠定技术基础。

May, 2024

通过随机化减轻对抗性影响

本文提出利用随机化在推理时间解决对抗性样本攻击的问题，采用随机的大小和填充来进行防御，现在已经成为一种非常有效的方法，公开代码可用。

Nov, 2017

风格化对抗防御

利用目标样本的样式和内容信息以及其类边界信息创建对抗性扰动，将其应用于多任务目标并进行深度监督，提取多尺度特征知识以创建最大分离对手，随后提出最大间隔对抗训练方法，最小化源图像与其对手之间的距离，并最大化对手和目标图像之间的距离，证明与最先进的防御相比，我们提出的对抗训练方法表现出强大的鲁棒性，对自然出现的损坏和数据分布变化具有良好的泛化能力，并保留了模型在干净样本上的准确性。

Jul, 2020

基于部分卷积的填充

本文提出一种简单但有效的填充方案作为现有卷积神经网络的模块，我们将其称为基于部分卷积的填充，具有在卷积操作中根据填充区域和卷积滑动窗口面积的比率重新加权的功能，在 Imagenet 分类和语义分割测试中表现出比标准零填充更好的准确性。

Nov, 2018

对抗噪声下的鲁棒卷积神经网络

这篇论文提出了一种新的前馈卷积神经网络模型，通过引入随机加性噪音来增强网络对抗噪音的鲁棒性，其模型仅基于每个像素的均值和方差来简化计算，训练效果优于其他方法，特别是对于更难的分类任务或更强的对抗性噪声。

Nov, 2015

深度网络的简单黑盒对抗扰动

研究表明，即使没有内部知识，对深度卷积神经网络进行黑盒攻击并制造对抗性样本是可行的，这暴露了深度神经网络的弱点，为设计安全的网络提供了检验。

Dec, 2016

卷积滤波器视角下的对抗性鲁棒性

在对具备鲁棒性的深度学习模型进行卷积滤波器分析的研究中，发现经过对抗训练的模型形成了多样性更大、稀疏性更小且更正交的卷积滤波器，且具有更高的分类精度，需要更深层网络结构来实现，此方法也被成功地应用于 CIFAR-10 数据集中。

Apr, 2022

有这样的朋友，还要什么敌人？

本文通过研究表明，图像分类网络对于对抗性攻击的脆弱性与其性能之间是一种互相联系的关系，因为网络中最容易受攻击的输入图像方向也是它们用于实现其分类性能的方向。此外，这种关系对于构建既精确又具有抵抗对抗攻击能力的神经网络具有深远的影响。

Jul, 2018

基于核的微分特性保全的无填充卷积

通过保留卷积核的微分特性，提出了一种不基于 padding 的保持尺寸的卷积方法，该方法与高分辨率图像和物理领域的实验表现出较其他方法明显的优越性。

Sep, 2023