本研究提出了一种利用二阶信息和功率归一化的相似性学习网络,用于解决一种和少量样本学习问题,并在 Omniglot,miniImagenet 和 Open MIC 数据集上获得了最优结果。
Nov, 2018
该论文提出了一种基于高级特征的协方差汇集方法,即 Matrix Power Normalized Covariance (MPN-COV),并在 ImageNet 上的测试中表现出了显著的成果,特别是在 AlexNet,VGG-M 和 VGG-16 的情况下,MPN-COV 方法可以使性能提高超过 3%,并且与 ResNet-152 相媲美。
Mar, 2017
介绍一种基于统计分析和高斯分布网络激活的方法,用于实现更紧凑的第二阶池化网络表示,以优于压缩或未压缩第一阶和第二阶模型,在多个基准识别数据集中进行了实验验证。
Jan, 2018
本文研究深度学习应用中的 Power Normalizations 及其函数 MaxExp 与 Gamma,提供概率解释并寻找训练中合适的替代函数,同时探究 Spectral Power Normalizations 的谱适用性与热扩散过程的关系,最终提出了基于谱的 MaxExp,并在图像和图分类等领域进行了实验验证。
Dec, 2020
本文通过对局部卷积神经网络特征进行聚合研究,提出一种基于简单加总池化的高效图像检索方法,取得了显著提升的效果。
Oct, 2015
本文研究了归一化二阶卷积特征的几种方式,其中以矩阵平方根归一化和元素平方根加 L2 归一化的方案为最佳,改进后在细粒度识别数据集上性能提高了 2-3%。研究还发现,在边界情况得到合理处理后,用于计算梯度的数值方法与网络的最终准确性关系较小。本文最终提出一种快速实现效果相当的固定迭代次数方法,可用于 GPU 上进行实现。
Jul, 2017
本文研究了聚合函数的区分能力,特别是在受限制的情况下,研究表明标准的求和和一种新的基于直方图的函数具有区分固定数量输入的能力。在此基础上,设计了一个图神经网络,旨在学习判别性图表示以实现泛化;实证评估证明了这些选择对结构图分类问题具有益处。
May, 2019
本文研究了在深度学习中引入 Power Normalizations(PN)操作作为一种新的 layer,实现对 feature map 的非线性池化,以解决 feature 不平衡问题,通过对 PN 函数的探索和实践,将其与 ResNet-50 模型相结合,应用于细粒度识别等四个 benchmark 中,获得了最先进的性能。
Jun, 2018
本文介绍了基于深度学习的 3D 变形模型,提出了一种基于注意力机制的模块来优化特征汇聚,通过端到端训练映射矩阵来实现在现有架构上对特征汇聚的替代,取得了在多个 3D 模型数据集上的最新成果。
May, 2021
本文介绍了一种名为 “Recombinator Networks” 的模型,该模型可以在不影响鲁棒性的前提下,通过信息重组的方式实现对精确定位的支持,相较于传统的基于求和和拼接的方法,其精度有显著提升,并将误差降低了 30%。同时作者还提出了基于卷积神经网络的去噪预测模型,进一步提升了该模型的性能。
Nov, 2015