Dec, 2023

复数神经网络 ---- 理论与分析

PDF
TL;DR复杂值神经网络（CVNNs）涵盖了波状信息和频域处理的不同结构和分类，并解释了复杂激活函数、复杂可微性的相关含义以及 CVNN 输出层的特殊激活。还讨论了使用基于梯度和非梯度的算法进行 CVNN 学习和优化的情况。此外，通过 Wirtinger 微积分术语解释了利用复杂链规则的复杂反向传播。还讨论了用于构建 CVNN 模型的特殊模块，如复杂批归一化和复杂随机初始化。该工作还强调了提出的用于 CVNN 实现的库和软件模块，并讨论了未来的发展方向。本研究的目标是理解 CVNN 的动态和最新发展。
complex-valued neural networkscvnnscomplex activation functionscvnn learningcvnn implementations
发现论文，激发创造
  • 复值神经网络的计算复杂度

    本文介绍了复值神经网络（CVNNs）的计算复杂度，对浮点运算的数量进行了定量估计，并研究了一些相关研究中所讨论的 CVNNs 的计算复杂度，以便在低功耗系统中实现 CVNNs 算法。

    Oct, 2023

  • 复数神经网络综述

    本文综述了近期在文献中对 CVNNs 的各种工作，并详细研究了各种 CVNNs 的激活功能、学习与优化、输入和输出表示，以及在信号处理和计算机视觉等任务中的应用，同时探讨了一些挑战和未来研究方向。

    Jan, 2021

  • 非参数激活函数的复数神经网络

    本文提出了一种基于核函数扩展的复数域的非参数激活函数，该函数拓展了复值神经网络中激活函数的灵活性并且可以通过矢量化硬件有效地实现。实验结果表明，相对于具有固定激活函数的复值神经网络和复值神经网络，该方法在预测和信道均衡等常用情景下得到了很好的验证。

    Feb, 2018

  • 深度复杂网络

    本文提供了复数深度神经网络的关键原子组件，并应用于计算机视觉和音频相关任务，实现了与实数模型相当的性能表现。

    May, 2017

  • 关于复数卷积神经网络的数学动机

    该研究论文提出利用复值卷积神经网络实现多尺度窗口谱、非线性多小波包等计算，具有更严格的数学分析方法以及新的应用方向。

    Mar, 2015

  • 关于复值卷积神经网络

    本文介绍了使用复数输入和权重构造卷积神经网络（CNN）的变形模型，以及提出的正则化方法解决训练 CNN 中的一些问题和困难，通过与真实 CNN 进行比较并应用于细胞检测问题进行实证验证，表明复杂模型比真实模型更不易过拟合且可检测出数据的有意义的相位结构。

    Feb, 2016

  • 一种基于复数卷积神经网络的射频数据驱动无线设备分类分析

    本研究通过对真实的 LoRa 和 WiFi 射频数据集进行深入分析，从输入表示和神经网络的体系结构两个方面，进一步探讨了使用复数深度神经网络进行设备识别的优势。结果表明，相较于实数值神经网络，在各种情景下，复杂值神经网络一般表现更好。

    Feb, 2022

  • 理解向量值神经网络及其与实值和超复值神经网络的关系

    该论文介绍了一种广泛的矢量值神经网络框架，称为 V-nets，旨在处理包含矢量数组的数据，通过考虑特征通道之间的相互关联来减少参数并实现更稳健的训练，同时解释了矢量值神经网络与传统神经网络之间的关系，并展示了如何在当前深度学习库中实现 V-nets 及其包括超复值神经网络的应用。

    Sep, 2023

  • 深度神经网络作为复杂网络

    本文运用复杂网络理论将 DNN 表示为一个有向带权图，并介绍了一些度量方法，可以研究 DNN 作为动力学系统的性能，并发现度量方法可以区分低性能和高性能网络。

    Sep, 2022

  • 复值神经网络在非平稳物理数据的机器学习中的应用

    本文研究探讨了使用复数和包含相位信息的卷积神经网络对具有相位信息的信号（例如地震数据或电气信号）进行非线性特征提取，实验表明，这种方法能提高网络的泛化性能和准确率。

    May, 2019