深度旋转回归的投影流形梯度层
本文介绍了一种基于Riemannian网络架构的SPD矩阵非线性学习方法,使用双线性映射层、特征值矫正层和特征值对数层,使用基于Stiefel流形的变体随机梯度下降法来训练此深度网络。实验证明,该网络简单易用,并在三个典型的视觉分类任务中优于现有的SPD矩阵学习和现有最先进的方法。
Aug, 2016
本文提出了一种面向流形训练深度神经网络的通用框架,利用切空间和指数映射,将最终输出元素在Riemann流形上的深度神经网络的训练问题转化为当前深度学习研究的问题,在多类图像分类和人脸图像回归上显示出改进后的性能。
Aug, 2017
研究论文介绍如何通过利用不可达欧几里得空间的可微函数,来解决机器学习中的回归问题。文中重点讨论了预图像的连通性和凸性等属性,并通过3D旋转的案例研究,说明了不同微分映射技术的优缺点,进言Procrustes正交标准化技术是最佳选择。
Mar, 2021
本文提出了一种深度神经网络方法,其中将几何样式生成对抗网络(Geom-SGAN)与欧拉弹性相结合,用于预测连续旋转下物体的图像,并相对于目前的生成对抗网络和变分自编码机在旋转流形上的视觉和数量上进行广泛的实验。
May, 2023
本研究通过将残差神经网络(ResNet)推广至广义黎曼流形,从几何角度提供了一种方法,用以解决在图结构和自然科学中遇到的具有层次结构或流形值数据的学习问题。实验结果表明,与已有的针对双曲空间和对称正定矩阵流形进行学习的流形神经网络相比,我们的黎曼流形残差神经网络在相关测试指标和训练动态方面都表现出更好的性能。
Oct, 2023
本研究提出了一种在机器人学习中处理非欧几里德流形数值数据的本质方法,该方法通过在流形上选择适当的概率分布,并将其参数作为预测变量的函数进行非参数化估计,同时结合核函数的局部似然方法,实现了比投影算法更好的预测准确性。
Oct, 2023
这篇论文综述了旋转表示的选择问题,阐述了其在深度学习与基于梯度优化的问题中的优劣性,提供了基于输入输出是否包含旋转以及数据是否主要由小角度构成的情况下选择合适表示的指导。
Apr, 2024
在Riemann流形上的深度神经网络已经在各个应用领域受到越来越多的关注,其中包括球面和双曲面流形上的DNN在计算机视觉和自然语言处理任务中的广泛应用。而球面和双曲面流形能够应用双翼运算和双翼向量空间的丰富代数结构,为成功的深度神经网络在这些流形上的推广提供了基础。最近的一些研究表明,双翼运算和双翼向量空间理论中的许多概念也能够推广到矩阵流形,比如对称正定和Grassmann流形。基于这些工作,我们设计了用于对称正定流形上的全连接和卷积层,并在Grassmann投影视角上提出了一种使用Grassmann对数映射进行反向传播的方法。我们在人类动作识别和节点分类任务中验证了这种方法的有效性。
May, 2024
本研究解决了现有多项式逻辑回归在黎曼流形上的适用性有限的问题。我们提出了一种仅需最小几何属性的黎曼多项式逻辑回归框架RMLR,展示了其在多个几何中的广泛适用性。实验证明,该框架在对称正定流形和特殊正交群中的有效性,具有显著的实际应用价值。
Sep, 2024
本研究解决了现有多项逻辑回归在黎曼流形上应用受限的问题,提出了一种新的框架RMLR,只需最小几何特性即可适用于多种几何形态。实验表明,该框架在对称正定流形和特殊正交群的应用中表现出显著的有效性,具有广泛的适用性和潜在影响。
Sep, 2024