使用 CNN 的改进双线性池化

Jul, 2017

Improved Bilinear Pooling with CNNs

Tsung-Yu Lin, Subhransu Maji

TL;DR本文研究了归一化二阶卷积特征的几种方式，其中以矩阵平方根归一化和元素平方根加 L2 归一化的方案为最佳，改进后在细粒度识别数据集上性能提高了 2-3%。研究还发现，在边界情况得到合理处理后，用于计算梯度的数值方法与网络的最终准确性关系较小。本文最终提出一种快速实现效果相当的固定迭代次数方法，可用于 GPU 上进行实现。

Abstract

Bilinear pooling of convolutional neural network (CNN) features [22, 23], and their compact variants [10], have been shown to be effective at fine-grained recognition, scene categorization, texture recognition, and visual question-answering tasks among others. The resulting representat

convolutional neural network fine-grained recognition matrix square-root normalization elementwise square-root gpu implementation

发现论文，激发创造

通过迭代矩阵平方根归一化实现全局协方差池化网络更快的训练

通过引入迭代矩阵平方根归一化方法，本文提出一种针对全局协方差池化网络的快速端到端训练方案，相比于依赖于 GPU 有限支持的 EIG 或 SVD 的方法更加高效，并且可以在更少的 epoch 内获得更好的性能。

Dec, 2017

MoNet: 基于矩特征的嵌入式神经网络

该文章提出了一种用于视觉任务的 MoNet 结构，它使用了二阶池化的双线性池化方法并通过子矩阵平方根层来解决维度问题，结合矩阵规范化和其他阶信息，实验结果表明，MoNet 在三个公开的图像分类数据集上表现良好，可实现与具有比其 96% 更少维度的编码特征相当的性能。

Feb, 2018

细粒度分类的低秩双线性池化

通过将局部特征的二阶统计合并为高维双线性特征，使用低秩双线性分类器对协方差特征进行表示，同时提出分类器共分解方法进一步压缩模型，实现细粒度分类任务中公共因子和分类特定项的紧凑表示，可以在保持和超越已有方法精度的情况下获得数量级更小的模型。

Nov, 2016

二阶信息对大规模视觉识别有用吗？

该论文提出了一种基于高级特征的协方差汇集方法，即 Matrix Power Normalized Covariance (MPN-COV)，并在 ImageNet 上的测试中表现出了显著的成果，特别是在 AlexNet，VGG-M 和 VGG-16 的情况下，MPN-COV 方法可以使性能提高超过 3％，并且与 ResNet-152 相媲美。

Mar, 2017

为什么近似矩阵平方根在全局协方差池化中表现优于准确的奇异值分解？

研究了基于全局协方差池化的卷积神经网络，使用奇异值分解方法计算矩阵平方根，发现通过牛顿 - Schulz 迭代而非精确计算的矩阵平方根能更好地提高分类性能，并提出了新的基于 Padé 近似的反向传播方法和混合训练协议，该方法在大规模和细粒度数据集上实现了最先进的性能。

May, 2021

深度卷积神经网络遇上全局协方差池化：更好的表示和泛化

该研究提出了一种适用于高维度、小样本场景的全局矩阵幂归一化协方差池化，并引入了一个全局高斯嵌入网络来融合一阶统计信息。此方法在大规模对象分类、场景分类、细粒度视觉识别和纹理分类方面的实验表明，其优于现有的方法，并取得了最佳效果。

Apr, 2019

卷积归一化：提高深度卷积网络的鲁棒性和训练效果

介绍了一种基于卷积结构的归一化方法 (Convolutional Normalization)，它可以方便地作为模块嵌入到任何卷积神经网络 (ConvNets) 中，通过提高权重的正交性和每层的通道等距性，减小权重矩阵的层范数，提高网络的 Lipschitzness 并且提高 GAN 性能和普适性。

Mar, 2021

通过奇异值约束提高深度神经网络的训练

本文通过提出一种名为 Singular Value Bounding (SVB) 的简单而有效的方法，约束了整个深度神经网络训练过程中的权重矩阵解，使其满足正交可行集，并在基准图像分类数据集上进行试验，得出了令人满意的成果。

Nov, 2016

用 L1 范数批量归一化高效训练深度神经网络

本文提出了一种仅利用线性操作来实现前向和后向传递的 L1-norm BN 方法，该方法与原始 L2-norm BN 方法在准确度和收敛速度上相当，但具有更高的计算效率和硬件友好性，可以通过低比特宽度量化技术实现全量化训练，进一步提高深度神经网络的训练速度和能效。

Feb, 2018

二阶相似度规范化弱监督学习的网络

本研究提出了一种利用二阶信息和功率归一化的相似性学习网络，用于解决一种和少量样本学习问题，并在 Omniglot，miniImagenet 和 Open MIC 数据集上获得了最优结果。

Nov, 2018