CVPRFeb, 2018

MoNet: 基于矩特征的嵌入式神经网络

PDF
TL;DR该文章提出了一种用于视觉任务的 MoNet 结构，它使用了二阶池化的双线性池化方法并通过子矩阵平方根层来解决维度问题，结合矩阵规范化和其他阶信息，实验结果表明，MoNet 在三个公开的图像分类数据集上表现良好，可实现与具有比其 96% 更少维度的编码特征相当的性能。
bilinear poolingvision tasksdimensionality problemmatrix normalizationmonet
发现论文，激发创造
  • 紧凑双线性池化

    本研究提出两种紧凑的双线性表示方法，与完整的双线性表示具有相同的判别能力，但仅具有几千个维度。这些紧凑的表示通过对双线性池化的核分析导出，为其他紧凑池化方法的研究提供了平台。实验证明，提出的表示方法对于多个数据集的图像分类和少样本学习都具有实用价值。

    Nov, 2015

  • 细粒度分类的低秩双线性池化

    通过将局部特征的二阶统计合并为高维双线性特征，使用低秩双线性分类器对协方差特征进行表示，同时提出分类器共分解方法进一步压缩模型，实现细粒度分类任务中公共因子和分类特定项的紧凑表示，可以在保持和超越已有方法精度的情况下获得数量级更小的模型。

    Nov, 2016

  • 使用 CNN 的改进双线性池化

    本文研究了归一化二阶卷积特征的几种方式，其中以矩阵平方根归一化和元素平方根加 L2 归一化的方案为最佳，改进后在细粒度识别数据集上性能提高了 2-3%。研究还发现，在边界情况得到合理处理后，用于计算梯度的数值方法与网络的最终准确性关系较小。本文最终提出一种快速实现效果相当的固定迭代次数方法，可用于 GPU 上进行实现。

    Jul, 2017

  • 广义的无序汇聚执行隐式显著匹配

    提出了一种泛化的 alpha-pooling 方法，可以在训练中学习汇编策略，同时引入一种有效的决策可视化方法来分析语义组成对决策的影响，实验证明这个方法可以在各种标准数据集上优于传统的的平均池化和双线性池化方法。

    May, 2017

  • 具有统计动机的二阶汇聚

    介绍一种基于统计分析和高斯分布网络激活的方法，用于实现更紧凑的第二阶池化网络表示，以优于压缩或未压缩第一阶和第二阶模型，在多个基准识别数据集中进行了实验验证。

    Jan, 2018

  • 深度卷积神经网络遇上全局协方差池化：更好的表示和泛化

    该研究提出了一种适用于高维度、小样本场景的全局矩阵幂归一化协方差池化， 并引入了一个全局高斯嵌入网络来融合一阶统计信息。此方法在大规模对象分类、场景分类、细粒度视觉识别和纹理分类方面的实验表明，其优于现有的方法，并取得了最佳效果。

    Apr, 2019

  • 层次双线性池化用于细粒度视觉识别

    本文提出了一种新颖的模型，使用交叉层双线性池化和分层双线性池化框架来帮助解决细粒度视觉识别的问题，同时在细粒度识别数据集上达到了最先进水平。

    Jul, 2018

  • 图神经网络的二阶池化

    本论文提出使用二阶汇集技术作为图聚合技术，结合双线性映射和注意力机制的二阶汇集方法性能优越，在图分类任务中取得了显著的表现提升。

    Jul, 2020

  • 二阶信息对大规模视觉识别有用吗？

    该论文提出了一种基于高级特征的协方差汇集方法，即 Matrix Power Normalized Covariance (MPN-COV)，并在 ImageNet 上的测试中表现出了显著的成果，特别是在 AlexNet，VGG-M 和 VGG-16 的情况下，MPN-COV 方法可以使性能提高超过 3％，并且与 ResNet-152 相媲美。

    Mar, 2017

  • 清晰时刻：借助矩池化简化机器学习的潜在空间

    许多机器学习应用涉及到学习数据的潜在表示，本研究提出了 “Moment Pooling” 方法，通过扩展 Deep Sets 网络中的求和操作为任意多元矩操作，显著降低了这些网络的潜在空间维度，同时保持甚至提高了性能，在胶子物理任务中证明了 Moment Pooling 的有效性，并且能够将内部表示直接可视化和解释。

    Mar, 2024