Nov, 2018

全局二阶池化卷积网络

PDF
TL;DR本文针对在深度卷积网络较早的层次有效引入二阶表示进行非线性建模的问题，提出了一种新的网络模型，并利用全局二阶池化 (GSoP) 对低到高层次进行二阶表示引入，使图像信息得到全面利用，实验结果表明，在 ImageNet-1K 数据集上，该网络模型优于同类网络，具有最先进的结果。
deep convolutional networksglobal second-order poolingnon-linear modelingcovariance matriximagenet-1k
发现论文，激发创造
  • 二阶信息对大规模视觉识别有用吗？

    该论文提出了一种基于高级特征的协方差汇集方法，即 Matrix Power Normalized Covariance (MPN-COV)，并在 ImageNet 上的测试中表现出了显著的成果，特别是在 AlexNet，VGG-M 和 VGG-16 的情况下，MPN-COV 方法可以使性能提高超过 3％，并且与 ResNet-152 相媲美。

    Mar, 2017

  • 深度卷积神经网络从全局协方差池化中受益：优化视角

    本研究尝试从优化的角度研究了全局协方差池化在深度卷积神经网络上的作用机理，发现全局协方差池化可以使优化损失更加平滑，梯度更具预测性，从而提高网络的稳定性、鲁棒性和泛化能力。相关实验证实了以上结论以及全局协方差池化对快速训练、图像失真和扰动下的鲁棒性、不同任务的泛化等方面的优点。

    Mar, 2020

  • 图神经网络的二阶池化

    本论文提出使用二阶汇集技术作为图聚合技术，结合双线性映射和注意力机制的二阶汇集方法性能优越，在图分类任务中取得了显著的表现提升。

    Jul, 2020

  • 具有统计动机的二阶汇聚

    介绍一种基于统计分析和高斯分布网络激活的方法，用于实现更紧凑的第二阶池化网络表示，以优于压缩或未压缩第一阶和第二阶模型，在多个基准识别数据集中进行了实验验证。

    Jan, 2018

  • 二阶卷积神经网络

    本文提出一种新颖的卷积神经网络（CNN）类，它利用二阶统计量，可以形成协方差描述符单元（CDU），可以替代标准 CNN 的全连接层，并在参数少至 90％的情况下优于一阶 CNN。

    Mar, 2017

  • 学习图池化和混合卷积操作以获取文本表示

    提出了使用可训练投影向量评估节点重要性来选择新图形的最重要的 K 个节点以达到与图像最大池化层相同目的的图形池 (pooling) 层。同时，结合 GCN 和普通卷积运算进行的混合卷积层 (hConv) 能够快速增加接受野 (receptive field)，自动计算特征等功能，基于提出的 gPool 和 hConv 层，我们为文本分类任务开发了新的深度网络，结果证明基于这些层的网络相比于基线方法具有新的最先进性能。

    Jan, 2019

  • 具有 EigenPooling 的图卷积网络

    本论文介绍了一种基于图傅里叶变换的池化算子及其在分层池化中的设计应用，该算子能够在池化过程中利用节点特征和局部结构，与传统的 GCN 卷积层结合形成用于图分类的图神经网络框架 m，实验结果表明该框架具有良好的效果。

    Apr, 2019

  • 深度卷积神经网络遇上全局协方差池化：更好的表示和泛化

    该研究提出了一种适用于高维度、小样本场景的全局矩阵幂归一化协方差池化， 并引入了一个全局高斯嵌入网络来融合一阶统计信息。此方法在大规模对象分类、场景分类、细粒度视觉识别和纹理分类方面的实验表明，其优于现有的方法，并取得了最佳效果。

    Apr, 2019

  • 概率数字卷积神经网络

    我们提出了一种基于概率数值方法的卷积神经网络，使用高斯过程表示特征，并采用偏微分方程定义卷积层，实现了旋转等变卷积，实验结果显示我们的方法可将误差降低 3 倍，并在医学时间序列数据集 PhysioNet2012 上展现了出色的性能。

    Oct, 2020

  • 几何神经短语池化：模拟神经元的空间共现

    本文侧重于建模神经元响应的空间共现关系，提出了一种基于几何学的神经短语池化算法来编码神经短语，插入到 CNN 模型中，提升图像分类的准确性。

    Jul, 2016