CVPRJun, 2018

微扰神经网络

PDF
TL;DR本文介绍了一种名为扰动层的替代卷积层的模块，通过实验证明这种扰动层可以有效地替代传统的卷积层，在多个视觉数据集上与标准 CNNs 性能相当，且拥有更少的参数。
convolutional neural networksperturbation layervisual recognition modelsdeep neural networkscomputer vision systems
发现论文，激发创造
  • 语义分割和分类的自我纠正扰动

    本篇论文探究了卷积神经网络中的一种新行为：通过结构化扰动输入，预训练的 CNN 可以改善其预测性能，这种扰动被称为 Guided Perturbations。实验结果表明，这种方法可以提高现有方法在语义分割和场景标注任务上的性能，并且可以应用于 MNIST 和 CIFAR10 等数据集上的分类任务。

    Mar, 2017

  • 卷积神经网络对内部结构和权重扰动的鲁棒性

    研究卷积神经网络的鲁棒性，证明卷积神经网络对高层卷积层内部扰动具有惊人的鲁棒性，但底层卷积层的鲁棒性较弱，对于相同的扰动会使性能急剧下降，建议进一步研究如何增强卷积神经网络对于内部扰动的鲁棒性。

    Mar, 2017

  • 应用置换等变神经网络于动态预测

    介绍了一种对置换对称的神经网络层，类比于卷积层，可以预测 2D 中密集互动粒子的运动，同时可以适应不同数量的对象。

    Dec, 2016

  • 基于 CNN 学习的非线性卷积滤波器

    研究表明，在计算模型的视觉皮层中开发基于 Volterra 核的二阶卷积方法，可以增加卷积层的表达能力，在 CIFAR-10 和 CIFAR-100 数据集上，使用线性和非线性滤波器相结合的卷积网络可以超越使用相同体系结构的标准线性滤波器的网络的性能，取得与最先进水平相当的结果。

    Aug, 2017

  • 调查和揭示卷积神经网络对对抗扰动的特征级漏洞

    通过对深度学习模型的不同层进行敌对性扰动攻击验证，研究表明浅层的通道组合对模型的干扰较大，在不同攻击类型中具有共享的易受攻击通道组合，而不同攻击对隐藏表示的影响存在差异且与卷积核大小呈正相关，以此为基础为未来应用开发高效的应对性防御机制奠定技术基础。

    May, 2024

  • 对抗噪声下的鲁棒卷积神经网络

    这篇论文提出了一种新的前馈卷积神经网络模型，通过引入随机加性噪音来增强网络对抗噪音的鲁棒性，其模型仅基于每个像素的均值和方差来简化计算，训练效果优于其他方法，特别是对于更难的分类任务或更强的对抗性噪声。

    Nov, 2015

  • 深度网络的简单黑盒对抗扰动

    研究表明，即使没有内部知识，对深度卷积神经网络进行黑盒攻击并制造对抗性样本是可行的，这暴露了深度神经网络的弱点，为设计安全的网络提供了检验。

    Dec, 2016

  • 利用生物神经元属性的卷积神经网络

    通过结合生物神经元原理，使用基于神经科学的计算模型来增强训练效率和提高准确性，以推动组合感受野模型作为卷积神经网络的基础层，从而在 CIFAR-10、CIFAR-100 和 ImageNet-100 数据集上实现性能显著提升（平均提升 5%-10%）

    Nov, 2023

  • Kervolution 神经网络

    本文介绍了一种新的 kervolution 运算，该方法可以在非线性空间内运行，扩展了卷积神经网络的模型容量，捕捉更高阶的特征交互，并通过基于补丁的核函数实现，而不引入额外参数。大量实验表明， kervolutional neural networks (KNN) 比基线卷积神经网络具有更高的准确性和更快的收敛速度。

    Apr, 2019

  • 概率数字卷积神经网络

    我们提出了一种基于概率数值方法的卷积神经网络，使用高斯过程表示特征，并采用偏微分方程定义卷积层，实现了旋转等变卷积，实验结果显示我们的方法可将误差降低 3 倍，并在医学时间序列数据集 PhysioNet2012 上展现了出色的性能。

    Oct, 2020