通过随机卷积实现强健和可泛化的视觉表示学习

ICLRJul, 2020

通过随机卷积实现强健和可泛化的视觉表示学习

Robust and Generalizable Visual Representation Learning via Random Convolutions

Zhenlin Xu, Deyi Liu, Junlin Yang, Colin Raffel, Marc Niethammer

TL;DR本文研究证明，数据增强中使用多尺度的随机卷积来增加数据集的多样性，可以显著提高神经网络的鲁棒性和泛化性能，特别是在图片领域的常见深度学习挑战中，描述如何将其应用于各种深度学习模型上。

Abstract

While successful for various computer vision tasks, deep neural networks have shown to be vulnerable to texture style shifts and small perturbations to which humans are robust. In this work, we show that the robustness of →

neural networks data augmentation random convolutions domain generalization visual representation

发现论文，激发创造

单域泛化的渐进式随机卷积

研究提出了一种逐渐堆叠具有小卷积核的随机卷积层的渐进式方法来解决 RandConv 结构的局限性，并将基本随机卷积层开发成一个包括可变形偏移和仿射变换的随机卷积块，以支持纹理和对比度的多样化。该策略在单一领域泛化基准测试中表现优异。

Apr, 2023

通过惩罚局部预测能力学习稳健的全局表示

本文提出了一种训练且具有鲁棒性的卷积神经网络的方法，通过惩罚较早层所学习的局部表示的预测能力，迫使网络丢弃色彩和纹理等可从局部感受野中获取的预测信号，并依靠图像的全局结构。在一系列综合性和基准领域适应任务中，我们的方法使泛化能力得到了改善。我们还引入了一个新的数据集 ImageNet-Sketch，以评估跨域传输。

May, 2019

随机化数据上的卷积神经网络

本文研究卷积神经网络在像素随机排列情况下的性能表现，发现图像的随机像素分布破坏了数据的分层结构并引入了长程相关性，使标准 CNN 难以捕捉，但膨胀卷积可以恢复一些像素相关性，从而提高性能。

Jul, 2019

通过随机化减轻对抗性影响

本文提出利用随机化在推理时间解决对抗性样本攻击的问题，采用随机的大小和填充来进行防御，现在已经成为一种非常有效的方法，公开代码可用。

Nov, 2017

通过图像风格化实现简单的域泛化

该论文介绍了使用样式化图像来增强数据集中的偏见纠正方法，以达到在不同领域中进行分类的目的。他们提供了一种基于领域内的纯样式化图像的方法，并通过详细的分析证实了该方法的机制，结果超过或与使用更复杂的方法的现有技术相当。

Jun, 2020

用全点卷积神经网络对自然图像的统计规律进行建模

本文提出了一种基于深度学习的 CNN 网络结构来模拟自然图像的统计规律，并使用随机重排像素的方式提高 CNN 对于像素分布的关注度，采用点卷积核取代大卷积核，实现了更好的统计表示能力。实验结果表明，该网络在颜色校正和图像去雾两个应用中达到了可比较的性能，并且参数数量和计算成本比现有架构更小。

Jan, 2018

利用随机权重的强大生成模型用于深度图像表示

使用未训练的卷积神经网络，创建新的生成模型，用于图像重建、纹理合成和样式转换等深度可视化任务，并发现了新的深度网络结构表示学习的一些特性和规律。

Jun, 2016

深度神经网络的特征层级增强提高仿射变换鲁棒性

本文提出了在中间神经网络层引入数据增强以改善卷积神经网络不适用于少量像素旋转或平移的问题，并证明该方法比已有的两种方法获得更好的精度和平均翻转比。

Feb, 2022

基于卷积神经网络的稳健视觉跟踪

本文提出了一种新的基于卷积神经网络的目标跟踪方法，使用简单的两层卷积神经网络进行在线适应学习，能够生成鲁棒性较强的目标表示，并在 CVPR2013 数据集上的 50 个挑战性视频中表现优异。

Jan, 2015

使用随机卷积滤波器的浅层卷积神经网络纹理合成

研究表明，随机浅层卷积神经网络的特征空间可以作为自然纹理的模型，可以用于纹理合成算法，并且相较于深层 CNNs 模型，浅层 CNNs 模型具有相当的性能。

May, 2016