本文提出了一种使用基于神经网络的特征函数实现光谱聚类的方法,将神经网络特征作为输入,通过轻量级的神经特征函数实现密集预测,实验结果表明该方法在 Pascal Context、Cityscapes 和 ADE20K 基准测试上具有显著的性能优势。
Apr, 2023
论文通过与神经切向核函数的关联性进行解释,给出了关于神经网络中谱偏置的全面而严格的解释,并证明了神经网络的训练过程可以沿神经切向核的不同方向分解,每个方向都有自己的收敛率,而该收敛率由相应的特征值确定。
Dec, 2019
本篇论文提出了一种名为 SpectralNet 的深度学习方法,通过在大量的未标注数据上训练,将输入的数据转换为与其相连的图拉普拉斯矩阵的特征空间的向量,并成功地应用于谱聚类,实现了对谱聚类中可扩展性以及广义化转化的双重突破。
Jan, 2018
本文提出并应用谱聚类技术到卷积神经网络中,形成了一种新的模块 Spectral Feature Transformation,以此提升基于深度学习的 person re-identification 的性能,实验证明该方法在多个测试数据集上优于现有的其他方法。
Nov, 2018
本研究通过对输入扰动的敏感性来研究基于深度学习的泛化能力,提出了一种简单而有效的正则化方法 —— 谱范数正则化,试验结果证实其比其他基准方法更具有泛化性能。
May, 2017
机器学习中的光谱几何信息提取是一种基于传统特征值解算器的大量方法之一,而为了应用于在线大数据场景,研究人员提出了 Spectral Neural Network (SNN) 作为一种替代方法,本文探索了 SNN 的关键理论方面,包括神经元数量和光谱几何信息学习量之间的权衡以及 SNN 的优化过程。
Oct, 2023
研究新颖的谱方法,通过得分函数将输出和输入的非线性变换之间的交叉矩张量分解,以解决逐步标记任务的输入 - 输出循环神经网络 (RNN) 的训练问题,并将其扩展到双向 RNN,该方法被应用于许多自然语言处理 (NLP) 任务,如 POS 标记。
Mar, 2016
通过傅里叶分析的工具,表明深度 ReLU 网络偏向于低频函数,且随数据流形复杂性的增加,学习高频函数变得更容易,但参数扰动会影响频率成分的鲁棒性和精确表达。
Jun, 2018
本文提出了一种称为 Spectral Inference Networks 的框架,通过随机优化来学习线性算子的特征函数,可以成为从视频或基于图的数据中进行无监督表示学习的强有力工具。我们将训练 Spectral Inference Networks 视为一个双层优化问题,并展示了它在量子力学和合成数据集上的应用,在完全无监督的情况下从视频中准确恢复线性算子的特征函数并发现可解释的表示。
研究提出了一种新颖的修改版径向基函数神经网络模型,通过学习可变的精度矩阵,挖掘隐藏于精度矩阵的信息,展示了模型的活跃子空间、特征重要性排序等可解释性结果,并与同类模型进行比较,结果表明该模型不仅有着优异的预测性能而且表现出了可解释性的结果,可用于实际决策过程中。
Jul, 2023