舒尔正定网络:在结构中使用 SPD 锥体的深度学习
本文介绍了一种基于 Riemannian 网络架构的 SPD 矩阵非线性学习方法,使用双线性映射层、特征值矫正层和特征值对数层,使用基于 Stiefel 流形的变体随机梯度下降法来训练此深度网络。实验证明,该网络简单易用,并在三个典型的视觉分类任务中优于现有的 SPD 矩阵学习和现有最先进的方法。
Aug, 2016
该研究提出了一个深度网络,以端到端的训练过程共同学习局部描述符、基于核矩阵的 SPD 表示和分类器。实验结果表明,深度局部描述符与基于核矩阵的 SPD 表示法的优越性,以及所提出的深度网络在追求更好的 SPD 表征方面的优势。
Nov, 2017
本研究提出了一种新的生成模型 SPD-DDPM,通过在 SPD 空间中引入高斯分布来估计 E (X|y),从而无条件和有条件地学习数据分布,并提供准确的预测。
Dec, 2023
本文提出了一种新的神经架构搜索问题 —— 对对称正定(SPD)流形网络的自动设计,介绍了一个几何丰富且多样化的 SPD 神经架构搜索空间及其搜索算法,统计评估结果表明该算法在无人机、行动和情感识别任务方面的表现优于现有的网络及传统算法,并且提供的模型比现有算法搜索的模型轻三倍以上。
Oct, 2020
本研究提出一种新的 Riemannian 几何方法来通过学习字典中的 SPD 原子的稀疏锥组合,将数据表示为 SPD 矩阵。通过比较与其他非 Riemannian 公式的稀疏编码的分类和检索性能,我们的实验表明了这种方法的卓越性能。
Jul, 2015
该论文提出了一种基于 Riemann 度量、Riemann 均值和 Riemann 优化的 SPD 流形自注意机制,用于改善所生成的深度结构表示的区分度,实验结果表明,该方法进一步减轻了信息退化问题并提高了准确性。
Nov, 2023
使用对称正定矩阵(SPD)的 Riemannian 对称空间构建图神经网络以处理复杂图,并证明在结点和图分类任务上,其性能明显优于欧几里得空间和双曲空间及两者的笛卡尔积的图神经网络。
Jun, 2023
本文提出了一种新的基于 SPN 和深度神经网络的概率深度学习模型,称为 RAT-SPNs,该模型具有充分评估数据似然,任意边缘化和条件任务的优势,并且仍然可解释为生成模型,并保持了良好的校准不确定性,从而使其高度鲁棒性和自然地检测异常值和独特样本。
Jun, 2018
在 Riemann 流形上的深度神经网络已经在各个应用领域受到越来越多的关注,其中包括球面和双曲面流形上的 DNN 在计算机视觉和自然语言处理任务中的广泛应用。而球面和双曲面流形能够应用双翼运算和双翼向量空间的丰富代数结构,为成功的深度神经网络在这些流形上的推广提供了基础。最近的一些研究表明,双翼运算和双翼向量空间理论中的许多概念也能够推广到矩阵流形,比如对称正定和 Grassmann 流形。基于这些工作,我们设计了用于对称正定流形上的全连接和卷积层,并在 Grassmann 投影视角上提出了一种使用 Grassmann 对数映射进行反向传播的方法。我们在人类动作识别和节点分类任务中验证了这种方法的有效性。
May, 2024