CVPRMar, 2020

Π-nets: 深度多项式神经网络

PDF
TL;DR介绍了 $\Pi$-Nets，这是一种新型的深度卷积神经网络方法，它们比标准的 DCNNs 具有更好的表示能力，可以在计算机视觉和机器学习中广泛应用，尤其在生成模型方面取得了最新的成果。
发现论文，激发创造
  • 深度多项式神经网络

    本文提出了一种基于多项式扩展的新型函数逼近器 ——π- 网，它是多项式神经网络，通过具有共享因子的张量集合分解来估计自然表示的未知参数，可用于许多任务和信号的表达建模，并在激活函数的辅助下在图像生成、人脸验证和 3D 网格表示学习等任务中实现了最新的结果。

    Jun, 2020

  • 多项式网络正则化在图像识别中的应用

    本文介绍了一种新型的 Polynomial Networks，使用强正则化方法使其能够在 6 个基准测试中达到与 ResNet 相似的性能，同时更加参数高效且不需要元素激活函数进行训练，旨在探索其正则化方案的具体研究。

    Mar, 2023

  • 双卷积神经网络

    本文提出了一种新的卷积神经网络模型，称为双卷积神经网络，该模型通过共享权重参数进行优化，在图像分类领域有着显著的性能提升。在 CIFAR-10，CIFAR-100 和 ImageNet 等图像分类基准测试中，该模型的性能均显著优于其他竞争模型。同时，本文还说明了双卷积神经网络在多方面性能均有体现，既可以构建更准确的模型，又可以以牺牲一定准确性的代价来减少模型的内存占用。

    Oct, 2016

  • 深金字塔残差网络

    探索使用逐渐增加特征映射维度的方式，提高深度残差神经网络的泛化能力，并提出了一种新的残差单元，增强了其分类准确性；实验表明，与原始的残差网络相比，该网络结构具有更好的泛化能力。

    Oct, 2016

  • 以偏微分方程为基础的深度神经网络

    该论文通过偏微分方程的理论框架，提出了三种新型的 ResNet 神经网络架构，分别属于抛物线和双曲线类型的 CNN，能够提供深度学习的新算法和思路，并用数值实验证明了它们的竞争力。

    Apr, 2018

  • 扩散卷积神经网络

    介绍一种新的用于处理图结构数据的模型 - 扩散卷积神经网络 (DCNN)，利用扩散卷积操作来学习基于扩散的表示，并在节点分类任务上表现出色。

    Nov, 2015

  • 密集多样胶囊网络：让胶囊学习更好

    该研究提出了两种改进型的 Capsule Networks，即 Dense Capsule Networks 和 Diverse Capsule Networks，以解决 CNNs 内在局限性，分别在标准数据集 MNIST，SVHN 和 CIFAR-10 上实验结果表明两种改进架构具有更好的性能和更少的训练迭代次数和参数数量。

    May, 2018

  • PI-Net：一种提取拓扑持久图像的深度学习方法

    本文提出了两种卷积神经网络，一种接收多元时间序列信号，另一种接收多通道图像作为输入，并使用它们来计算持续图像。作者在人类活动识别和图像分类等两个应用上实现了持续图像的融合。

    Jun, 2019

  • 轻量级像素差异网络用于高效视觉表示学习

    提出两种新型卷积方法 Pixel Difference Convolution（PDC）和 Binary PDC（Bi-PDC），以及两个轻量级深度网络 PiDiNet 和 Bi-PiDiNet 用于视觉任务，如边缘检测和目标识别。在 BSDS500、ImageNet、LFW 和 YTF 等数据集上进行的广泛实验表明，PiDiNet 和 Bi-PiDiNet 在准确性和效率之间取得了最佳的平衡。对于边缘检测，PiDiNet 是第一个可以在没有 ImageNet 的情况下进行训练的网络，在 BSDS500 上以 100 FPS 和小于 1M 参数实现了与人类水平相当的性能。对于目标识别，Bi-PiDiNet 在现有的二进制 DNN 中取得了最佳准确性，并在 ResNet18 上将计算成本减少了近 2 倍。

    Feb, 2024

  • DiracNets: 不使用跳连连接训练非常深的神经网络

    深度神经网络已经在各种图片分类基准测试中显示出优秀的性能，而 ResNet 的一个新的简单的 Dirac 参数化指标，在训练时间计算成本上具有较小的成本，在推理阶段几乎没有任何成本，同时比 ResNet 具有类似的性能，并减少残差网络以及非残差网络的初始化需要。

    Jun, 2017