自组织运行神经网络用于严重图像恢复问题

Aug, 2020

自组织运行神经网络用于严重图像恢复问题

Self-Organized Operational Neural Networks for Severe Image Restoration Problems

Junaid Malik, Serkan Kiranyaz, Moncef Gabbouj

TL;DR本文提出了一种基于 Taylor 级数近似的自组织操作神经网络 Self-ONNs，旨在解决卷积神经网络在图像复原方面的不足问题，并在三个不同的复原任务上进行了广泛的消融实验以证明其优越性。

Abstract

Discriminative learning based on convolutional neural networks (CNNs) aims to perform image restoration by learning from training examples of noisy-clean image pairs. It has become the go-to methodology for tackl

convolutional neural networks operational neural networks image restoration self-organizing taylor series-based function approximation

发现论文，激发创造

手写文字识别的 2D 自组织 ONN 模型

本研究提出了一种新的神经网络模型，其中包含了 2D 自组织 ONNs 和可变形卷积。在 IAM 英语数据集和 HADARA80P 阿拉伯语数据集上，将 Self-ONNs 操作层与可变形卷积相结合，大幅减少了字符错误率和词错误率，且性能显著优于传统深度 CNN 模型。

Jul, 2022

光学神经网络

本文提出一种新的光学神经网络（ONN）框架，模拟人眼视网膜中心附近的高分辨率，实现了图像分类估计的标量不变性，并且通过同维孪生（Siamese）结构将不同缩放级别的图像输入通过相同的卷积神经网络（CNN）进行处理，最终的结果可用于提高现有算法中的准确性。

May, 2018

面向深度图像恢复的按需学习

本文提出一种基于反馈机制的面向难度级别泛化的深度卷积神经网络图像修复模型自动生成的算法，旨在避免 “固定” 模型对于固定难度级别的训练。实验表明，在四个图像修复任务上，本算法均优于传统训练和课程学习替代方案。

Dec, 2016

卷积神经网络架构优化

卷积神经网络（CNN）在面对声音识别、自然语言处理或计算机视觉等具有挑战性的任务时被广泛使用。本文提出了一种新颖的 CNN 优化和构建方法，基于剪枝和知识蒸馏，旨在确定卷积层的重要性，以减少计算要求，并在资源受限设备上部署。经过彻底的实证研究，包括最佳数据集（CIFAR-10、CIFAR-100 和 Imagenet）和 CNN 架构（VGG-16、ResNet-50、DenseNet-40 和 MobileNet），我们评估了该提议，并将准确度损失和剩余参数比率作为客观指标来比较 OCNNA 与其他最先进的方法的性能。与其他 20 多种卷积神经网络简化算法相比，我们的方法取得了出色的结果。因此，OCNNA 是一种竞争性的 CNN 构建方法，可以简化神经网络部署到物联网或资源有限设备的过程。

Dec, 2023

联合端到端图像压缩和去噪：利用对比学习和多尺度自注意机制

本文提出了一种集成多尺度去噪器的新方法，用于联合图像压缩和去噪。通过强调噪声与干净图像之间的相关性，采用对比学习的方式来提高网络区分噪声与高频信号的能力，实验证明该方法在失真性能和编解码速度方面优于当前的最新技术水平。

Feb, 2024

使用图卷积神经网络进行图像去噪

本文中，作者提出了一种使用图卷积层的卷积神经网络，以利用局部和非局部相似性以实现去噪任务，并取得了比传统卷积神经网络更好的效果。

May, 2019

CSNNs: 无监督、不使用反向传播卷积神经网络的表示学习

本文提出了一种基于卷积神经网络、自组织映射聚类和赫布学习的卷积自组织神经网络（CSNNs）的建模方法，可以在无需反向传播的情况下完成学习，利用所提出的建模方法可以用于图像分类领域并取得与 Backpropagation 方法相当的性能。

Jan, 2020

深度图卷积图像去噪

本文提出了一种基于图卷积操作的全新的可端到端训练的神经网络架构，该架构创建具有非局部感受野的神经元，从而利用网络的强大表示学习能力来发现自相似模式，并通过轻量级的基于边缘条件的卷积来解决梯度消失和过参数化问题。实验结果表明了在合成高斯噪声和真实噪声上的最先进性能和改进的定性和定量结果。

Jul, 2019

非局域强化卷积神经网络图像去噪

该研究提出了一种基于非局部稀疏性的深度卷积神经网络去噪范式，结合了卷积神经网络和非局部滤波器，证明了在大型灰度图像数据集上具有最先进的性能。

Mar, 2018

本地无序网络

我们提出了局部无序网络（LON）及其理论基础，将其与卷积神经网络（CNN）、尺度空间直方图和测量理论联系起来。关键要素是对偏差和激活函数的导数进行规则采样。我们比较了 LON、CNN 和尺度空间直方图在原型单层网络上的表现。我们展示了 LON 和 CNN 如何模拟彼此，以及 LON 如何扩展可计算的非线性函数集合，例如平方。我们展示了简单网络，用来说明 LON 在估计梯度幅值平方、回归形状区域和周长长、以及解释单个像素对结果影响方面的改进性能。

Jun, 2024