使用梯度下降训练形态神经网络：一些理论洞见

Feb, 2024

使用梯度下降训练形态神经网络：一些理论洞见

Training morphological neural networks with gradient descent: some theoretical insights

Samy Blusseau

TL;DR研究了基于差分和反向传播的形态学网络的潜力和限制，尤其是在初始化和学习速率方面的理论指导，以解决当形态学网络层数增加时的训练困难。

Abstract

morphological neural networks, or layers, can be a powerful tool to boost the progress in mathematical morphology, either on theoretical aspects such as the representation of complete lattice operators, or in the

morphological neural networks mathematical morphology image processing pipelines training difficulties optimization algorithms

发现论文，激发创造

离散形态神经网络

提出了离散形态神经网络（DMNN）用于二值图像分析以表示 W 算子并通过机器学习进行估计的经典方法。

Sep, 2023

精确二值形态神经网络的基础

通过数学形态学（MM）实现全结合卷积神经网络（ConvNets）的二值化，并提出两种新的近似方法以及鲁棒的理论框架来改进其优化。同时，引入正则化损失以提高网络的性能。

Jan, 2024

通过矩阵反向传播训练具有结构层的深度网络

本文提出了一种将全局结构化计算形式化整合到深度计算架构中的方法，其核心是开发了一种新的基于矩阵变化的 backpropagation 理论和实践，该方法广泛适用于机器学习或计算感知问题，我们在 BSDS 和 MSCOCO 基准测试中执行视觉分割实验，结果表明端到端训练的基于第二阶池化和归一化切割层的深度网络，使用矩阵反向传播优于没有利用全局层的对应网络。

Sep, 2015

神经网络的模块化变形

本文研究了网络形态学习的问题，提出了基于图形变换的两种原子型形态学习方法，并基于 ResNet 提出了实现方案。

Jan, 2017

网络形态学

本文介绍了网络形态学的定义、方程和算法，讨论了如何实现网络形态的改变，提出了参数化激活函数，实验结果表明这种网络形态的改变方案是有效的。

Mar, 2016

训练无限制的顺序离散形态神经网络的算法

用离散形态神经网络（DMNN）进行二进制图像转换，表示具有特定特性的 W 算子，并通过机器学习来估计它们，同时提出了一种用于学习无限制顺序 DMNN（USDMNN）的算法。

Oct, 2023

深度学习的统计理论综述：逼近、训练动态和生成模型调查

这篇文章介绍了关于神经网络的统计理论，从三个角度进行了综述：非参数回归或分类中关于神经网络过度风险的结果，神经网络的训练动力学以及生成模型中的最新理论进展。