深度复杂网络
本文介绍了使用复数输入和权重构造卷积神经网络(CNN)的变形模型,以及提出的正则化方法解决训练 CNN 中的一些问题和困难,通过与真实 CNN 进行比较并应用于细胞检测问题进行实证验证,表明复杂模型比真实模型更不易过拟合且可检测出数据的有意义的相位结构。
Feb, 2016
该论文旨在将深度学习直接应用于复值信号,提出了建立在变形器结构上的复值神经网络构建模块,并通过在 MusicNet 数据集上进行分类和序列生成任务的测试表明了该模型对于过拟合有更好的鲁棒性,同时维持了与实数传输器的性能相当水平。
Jun, 2023
本文综述了近期在文献中对 CVNNs 的各种工作,并详细研究了各种 CVNNs 的激活功能、学习与优化、输入和输出表示,以及在信号处理和计算机视觉等任务中的应用,同时探讨了一些挑战和未来研究方向。
Jan, 2021
本文介绍了如何使用四元数构建深度网络,通过在 CIFAR-10 和 CIFAR-100 数据集上进行端到端训练以及在 KITTI Road Segmentation 数据集上进行端到端训练,我们证明了四元数网络比实数网络和复数网络具有更好的收敛性能,在分割任务中表现尤为突出。
Dec, 2017
本文研究探讨了使用复数和包含相位信息的卷积神经网络对具有相位信息的信号(例如地震数据或电气信号)进行非线性特征提取,实验表明,这种方法能提高网络的泛化性能和准确率。
May, 2019
该研究提出了一种新颖的复合门循环神经元,该循环神经元采用复数表示,并结合具有门控机制和保持范数的状态转换,表现出优异的稳定性和收敛性,在合成存储和加法任务以及人体运动预测等现实任务中表现出竞争力。
Jun, 2018
复杂值神经网络(CVNNs)涵盖了波状信息和频域处理的不同结构和分类,并解释了复杂激活函数、复杂可微性的相关含义以及 CVNN 输出层的特殊激活。还讨论了使用基于梯度和非梯度的算法进行 CVNN 学习和优化的情况。此外,通过 Wirtinger 微积分术语解释了利用复杂链规则的复杂反向传播。还讨论了用于构建 CVNN 模型的特殊模块,如复杂批归一化和复杂随机初始化。该工作还强调了提出的用于 CVNN 实现的库和软件模块,并讨论了未来的发展方向。本研究的目标是理解 CVNN 的动态和最新发展。
Dec, 2023
本文介绍了复值神经网络(CVNNs)的计算复杂度,对浮点运算的数量进行了定量估计,并研究了一些相关研究中所讨论的 CVNNs 的计算复杂度,以便在低功耗系统中实现 CVNNs 算法。
Oct, 2023
本研究通过对真实的 LoRa 和 WiFi 射频数据集进行深入分析,从输入表示和神经网络的体系结构两个方面,进一步探讨了使用复数深度神经网络进行设备识别的优势。结果表明,相较于实数值神经网络,在各种情景下,复杂值神经网络一般表现更好。
Feb, 2022