Jun, 2020

深度多项式神经网络

PDF
TL;DR本文提出了一种基于多项式扩展的新型函数逼近器 ——π- 网，它是多项式神经网络，通过具有共享因子的张量集合分解来估计自然表示的未知参数，可用于许多任务和信号的表达建模，并在激活函数的辅助下在图像生成、人脸验证和 3D 网格表示学习等任务中实现了最新的结果。
deep convolutional neural networkspolynomial neural networkstensor decompositionsexpressive modelingactivation functions
发现论文，激发创造
  • Π-nets: 深度多项式神经网络

    介绍了 $\Pi$-Nets，这是一种新型的深度卷积神经网络方法，它们比标准的 DCNNs 具有更好的表示能力，可以在计算机视觉和机器学习中广泛应用，尤其在生成模型方面取得了最新的成果。

    Mar, 2020

  • 多项式网络正则化在图像识别中的应用

    本文介绍了一种新型的 Polynomial Networks，使用强正则化方法使其能够在 6 个基准测试中达到与 ResNet 相似的性能，同时更加参数高效且不需要元素激活函数进行训练，旨在探索其正则化方案的具体研究。

    Mar, 2023

  • 双卷积神经网络

    本文提出了一种新的卷积神经网络模型，称为双卷积神经网络，该模型通过共享权重参数进行优化，在图像分类领域有着显著的性能提升。在 CIFAR-10，CIFAR-100 和 ImageNet 等图像分类基准测试中，该模型的性能均显著优于其他竞争模型。同时，本文还说明了双卷积神经网络在多方面性能均有体现，既可以构建更准确的模型，又可以以牺牲一定准确性的代价来减少模型的内存占用。

    Oct, 2016

  • 用多项式神经网络增强深度分类器

    本篇研究工作将深度分类器的研究归纳到一个统一的框架下，其中将最先进的架构用不同程度的多项式形式表示，并对其进行了评估，结果表明其在模型性能和模型压缩方面具有高表现性，并且在有限数据和长尾数据分布存在的情况下具有优异的效果。

    Apr, 2021

  • 弱正交约束下的多项式增强神经网络 (PANNs) 在功能和 PDE 逼近中的应用

    我们提出了多项式增强神经网络（PANNs），一种结合了深度神经网络（DNNs）和多项式逼近的新型机器学习架构。通过这些实验，我们证明了 PANNs 在回归和偏微分方程的数值解法上都比 DNNs 具有更好的逼近性能，同时在回归具有有限平滑性的函数时，也比多项式和基于 DNN 的回归方法具有更高的准确性。

    Jun, 2024

  • 以偏微分方程为基础的深度神经网络

    该论文通过偏微分方程的理论框架，提出了三种新型的 ResNet 神经网络架构，分别属于抛物线和双曲线类型的 CNN，能够提供深度学习的新算法和思路，并用数值实验证明了它们的竞争力。

    Apr, 2018

  • 深金字塔残差网络

    探索使用逐渐增加特征映射维度的方式，提高深度残差神经网络的泛化能力，并提出了一种新的残差单元，增强了其分类准确性；实验表明，与原始的残差网络相比，该网络结构具有更好的泛化能力。

    Oct, 2016

  • DCFNet：具有分解卷积核的深度神经网络

    本文提出了基于截断展开的分解卷积滤波器（DCFNet）神经网络，使用预设基进行卷积滤波器的分解，通过扩展系数的学习来减少可以训练的参数和计算量，并通过基截断来加强滤波器的规律性。实验证明，DCFNet 可以在减少模型参数的同时，保持图像分类任务的准确性，尤其是在使用 Fourier-Bessel 基时效果显著，理论分析表明，DCFNet 对于输入的变化有较好的表示稳定性，并且经验观察与理论分析是一致的。

    Feb, 2018

  • 神经网络深度证明在具有恒定扩散和非线性漂移系数的 Kolmogorov 偏微分方程数值逼近中克服了维度灾难

    这篇论文揭示了深度人工神经网络在 Kolmogorov PDEs 数值逼近中克服了维数灾难的现象。我们证明了所用 DNN 模型的参数数量在 PDE 维数 d 和逼近精度的倒数 ε 的倒数中，最多呈多项式增长。

    Sep, 2018

  • 扩散卷积神经网络

    介绍一种新的用于处理图结构数据的模型 - 扩散卷积神经网络 (DCNN)，利用扩散卷积操作来学习基于扩散的表示，并在节点分类任务上表现出色。

    Nov, 2015