用顺序神经网络增强功能数据分析:优势和比较研究
将 Radial-Basis Function Networks 和 Multi-Layer Perceptron 模型扩展到功能数据输入,以处理由输入输出对列表定义的功能数据,包括平滑基底上的投影、Functional Principal Component Analysis、功能居中和降级以及微分算子的使用, 并在光谱数据分析基准测试中展示了这种功能方法。
Sep, 2007
本文介绍了函数数据分析(FDA)的基本概念及其方法,着重介绍了 FDA 中应用广泛的函数回归,包括基函数、函数响应回归和函数之间的回归,并强调了重复性和规律性在这些方法中的作用。
Jun, 2014
利用平滑核积分变换的思想,我们提出了一种功能深度神经网络,其具有高效和完全依赖数据的降维方法。我们的功能网络的架构包括核嵌入步骤、投影步骤和表达深度 ReLU 神经网络,利用平滑核嵌入使其具有离散不变性、高效性和对噪声观测的鲁棒性,能够利用输入函数和响应数据的信息,对离散点数量的要求较低,具有良好的泛化性能。我们进行了理论分析和数值模拟来验证我们功能网络的这些优势。
Jan, 2024
本文提出了一种新的中间随机模型,称为简化 SFNN,该模型可以建立在任何基线 DNN 之上,并通过简化其上部随机单元来近似某些 SFNN。我们将 DNN-> Simplified-SFNN-> SFNN 三个模型联系在一起,从而自然地引导随机模型的高效训练过程,利用 DNN 的预训练参数。使用多个流行的 DNN,我们展示了如何将它们有效地转移到相应的随机模型,以进行 MNIST,TFD,CASIA,CIFAR-10,CIFAR-100 和 SVHN 数据集的多模态和分类任务。
Apr, 2017
使用卷积神经网络(CNN)对嘈杂和非嘈杂的函数数据进行回归和分类学习问题,通过将函数数据转换为 28 乘以 28 的图像,采用特定的卷积神经网络架构进行参数估计和函数形式分类的回归案例研究,应用于混沌数据的李雅普诺夫指数估计、疾病传播率估计、药物溶解剖面的相似性检测以及帕金森病患者检测等问题,该方法简单但准确率高,有广泛的工程和医学应用前景。
Oct, 2023
本文介绍了一种名为自标准神经网络 (SNNs) 的新型前馈神经网络,使用放缩指数线性单元 (SELU) 激活函数,自动进行归一化处理,并具有极高的性能表现,可以在多个机器学习任务中超越标准的前馈神经网络。
Jun, 2017
近几十年来,工业故障诊断(IFD)作为一门重要学科涉及检测和收集工业设备健康状况的关键信息,从而有助于识别故障类型和严重程度。由于精确有效的故障识别受到重视,自动化设备监控已成为焦点,以预防安全事故并减少对人力劳动的依赖。人工神经网络(ANNs)的出现在大数据背景下增强了智能 IFD 算法,但 ANNs 仍存在资源和数据依赖性以及认知能力受限等固有局限性。为解决这些问题,基于大脑计算原理的第三代脉冲神经网络(SNN)作为一种有前景的替代方案崭露头角。SNN 以生物神经元动力学和脉冲信息编码为特点,在表示时空特征方面展现出异常潜力。因此,开发基于 SNN 的 IFD 模型已经引起了广泛关注,并展现出令人鼓舞的性能。然而,该领域缺乏系统性的调查来说明当前状况、挑战和未来方向。因此,本文系统地回顾了 SNN 模型的理论进展,以回答什么是 SNN。随后,它对现有的基于 SNN 的 IFD 模型进行了审查和分析,以解释为何需要使用 SNN 以及如何使用它。更重要的是,本文系统地回答了 SNN 在 IFD 中的挑战、解决方案和机会。
Nov, 2023
本文研究了使用支持向量机(SVM)进行函数数据分析的问题,着眼于曲线判别问题,展示了如何定义简单的内核函数以考虑数据的函数性质并导致一致的分类,实验表明考虑问题的函数特征对数据的分析是有益的。
May, 2007
本研究提出了一种新颖的 mfDNN 分类器,用于处理高维函数观测数据,采用稀疏深度神经网络架构,并采用 ReLU 激活函数和交叉熵损失函数来最小化多分类分类设置的风险函数。我们证明了 mfDNN 在模拟数据和不同应用领域的基准数据集上的性能。
May, 2023
功能数据分析(FDA)是用于建模和分析时间域函数数据的框架,在该领域中,集成学习的功能分类器只是最近引起了极大的兴趣。该论文的重点是基于功能数据的集成学习,展示了如何使用不同的功能表示来训练集成成员,并通过多数投票来组合基模型的预测结果。所提出的功能投票分类器(FVC)证明了不同的功能表示可以增加多样性从而提高预测准确性。使用多个真实世界数据集显示,与单个模型相比,FVC 可以显著提高性能。这个框架为功能数据的投票集成提供了基础,并在 FDA 领域激发了一个非常有潜力的研究方向。
Mar, 2024