NIPSOct, 2018

DropBlock: 卷积网络的一种正则化方法

PDF
TL;DR本文介绍了一种结构化的 DropBlock 正则化形式，适用于卷积神经网络。在 ImageNet 分类和 COCO 检测中，使用 DropBlock 对 ResNet-50 和 RetinaNet 的平均精度和准确率都有了明显的提升。
deep neural networksover-parameterizedregularizationdropblockconvolutional layers
发现论文，激发创造
  • R-Block: 卷积网络的正则化 Dropout 块

    通过引入互相学习的训练策略，即 R-Block，结合两个不同 dropout 区域的互补子模型，该方法能够减小卷积层中的随机性，提高了性能和一致性。

    Jul, 2023

  • 重新审视结构化 Dropout

    本文研究使用多个有构造性的 Dropout 方法在多个现代神经网络上进行自然语言处理和计算机视觉任务。我们提出了一种名为 ProbDropBlock 的方法，该方法可以提高模型的性能，并且已经在 RoBERTa 和 ImageNet 上得到验证。

    Oct, 2022

  • 深度卷积神经网络中有效高效的 dropout

    本文主要研究卷积神经网络（CNNs）的正则化问题，提出了几种改进的 dropout 变体，通过在卷积操作之前放置 dropout 操作或将 BN 替换为 GN，以减少 dropout 和其后的 BN 之间的矛盾，以提高 CNNs 的训练效果和正则化。实验证明，通过这些方法构建的 CNN 的性能明显优于现有的 CNN，这主要归功于更好的正则化和隐式模型集成效应。

    Apr, 2019

  • AutoDropout: 学习 Dropout 模式以规范深度网络

    本文提出了一种新的 dropout 方法 —— 学习 dropout 模式。通过控制器在每个通道和层生成 dropout 模式，并利用其对目标网络进行训练，该方法被证明对图像识别和语言模型都有效。通过学习 dropout 模式，该模式还可以适应不同的任务和数据集。

    Jan, 2021

  • 关于结构化 Dropout 正则化特性的研究

    单层线性网络中，DropBlock 引入了谱 k-support 正则化，促使解具有低秩和等范数的因子。这个全局极小值可以用闭合形式计算。若在最后一层应用 Dropout，某些假设下此结果可扩展到 Dropout 策略的一般类和深度非线性网络中，并用经常使用的网络结构实验验证了理论结论和假设。

    Oct, 2019

  • BlockDrop: 残差网络中的动态推断路径

    本文介绍了 BlockDrop，利用强化学习选择执行深层网络的哪些层，以最大限度地减少总计算量而不降低预测准确性。实验证明，该模型不仅可以加速推断，还可以编码有意义的视觉信息，最高可使 ImageNet 速度提高 36％，并保持与原模型相同的精确度。

    Nov, 2017

  • 课程辍学

    本研究提出了一种名为 “课程退火” 的优化策略，通过逐渐在神经网络结构中添加噪声的方式，从而实施一种非常通用的课程方案，进而创造更好的模型。

    Mar, 2017

  • 批量 DropBlock 网络：针对人员重新识别及其它应用的研究

    本研究介绍了 Batch DropBlock (BDB) 网络，利用两个分支，卷积神经网络学习全局与局部特征。通过具有随机区域性特殊性和专注性的特征删除模块，构建了局部特征学习的分支，同时保留全局特征学习的信息，实现了更全面和空间分布更均匀的特征表示。最终，方法在行人再识别任务上实现了最优结果，并且其方法同样适用于一般的度量学习任务.

    Nov, 2018

  • Blockout: 面向分层深层网络的动态模型选择

    提出了 Blockout 方法，用于正则化和模型选择，同时学习了模型架构和参数，改进了分类准确性并更好地优化了表现。

    Dec, 2015

  • 谱 Dropout 正则化深度神经网络

    提出了一种称为 `Spectral Dropout' 的新方法，它可以通过固定基函数的正交变换的形式将其转化为正则卷积神经网络 (CNN) 的权重层，通过消除神经网络激活的弱且嘈杂的傅里叶系数来预防过拟合，相比当前正则化方法具有显著提高网络收敛速度以及神经元精简率的效果，并且可以与其他正则化方法共同使用。

    Nov, 2017