MMJul, 2014

黎曼流形上的优化技术

PDF
TL;DR本篇文章提出了新的方法，以解决施加在黎曼流形上的最优化问题，并将欧几里得空间上的一些优化技术推广到黎曼流形上。文章展示了几个算法，并分析了它们的收敛性质，其中包括可以被认为是黎曼流形上的牛顿方法和共轭梯度方法的两种算法，分别表现出二次和超线性收敛性。此外，还给出了一些在某些黎曼流形上的实例以及数字实验的结果。
riemannian manifoldsconstrained optimizationnewton's methodconjugate gradient methodeigenvectors
发现论文，激发创造
  • 约束下的黎曼流形优化简单算法

    本文介绍了扩展现有算法，从欧几里得情况到黎曼情况的从等式和不等式约束中考虑代码优化问题，在高维下实现计算效率与准确度的提高，具有重要的实践应用。

    Jan, 2019

  • 格拉斯曼流形上的牛顿法

    该研究介绍了一般类的牛顿算法，适用于任意局部坐标的 Graßmann 和 Lagrange-Graßmann 流形，并在选择坐标系的适当条件下显示了算法的局部二次收敛性。通过选择特殊的坐标系，衍生出新的数值算法，用于主成分分析和固有子空间计算，并提高了计算复杂度的性质。

    Sep, 2007

  • 黎曼自适应优化方法

    将 Adam、Adagrad 和 Amsgrad 等流行的自适应随机优化方法扩展到里曼流形上面的困难以及基于里曼流形的优化算法和渐进结果的提出，同时在实验中证明该算法比原算法更快且表现更好。

    Oct, 2018

  • 黎曼预处理

    本文通过串行二次规划和黎曼梯度优化的基本联系，解决了在黎曼优化中选择度量的一般问题，特别是在商流形上寻求黎曼结构的情况下。所提出的方法在具有正交和 / 或秩约束的二次规划中表现得特别明晰高效，覆盖了矩阵流形中当前大多数黎曼优化的应用。

    May, 2014

  • 矩阵流形上的黎曼适应性随机梯度算法

    该研究提出了一种针对 Riemannian 矩阵流形的新型随机梯度算法，通过适应梯度的行和列子空间，使算法能够在保留流形丰富结构的同时进行优化，并证明了算法的收敛性和收敛速率。

    Feb, 2019

  • 矩阵流形上的 Riemannian 坐标下降算法

    提出了在矩阵流形上开发计算效率高的坐标下降（CD）算法的一般框架，从而允许在每次迭代中仅更新少数变量，并符合流形约束。通过一阶目标函数的近似实现了更高效的变体，分析了它们的收敛性和复杂性，并在多个应用中验证了它们的有效性。

    Jun, 2024

  • 具有正交约束的算法几何学

    本文介绍了关于 Grassmann 和 Stiefel 曼陀罗上的一些新的数值线性代数算法，具有优秀的性能表现，并可用于对称特征值问题、非线性特征值问题、电子结构计算和信号处理等领域中出现的约束条件进行建模。

    Jun, 1998

  • 黎曼流形上的随机梯度下降

    本文介绍了一种扩展随机梯度下降算法来优化在 Riemannian 流形上定义的代价函数的方法，并通过四个例子展示了其潜在的应用，其中包括派生和数字测试的一种新型的协方差矩阵的聚集算法。

    Nov, 2011

  • 在双矩阵集合上进行流形优化：一个二阶几何方法

    本文介绍了使用 Riemannian optimization 方法求解一类具有特定盒式约束的凸优化问题，通过引入三个流形来实现求解，这些流形适用于具有多维概率分布函数的变量，且在高维度中具有优越性能。

    Feb, 2018

  • 在黎曼流形上的游戏中，无关曲率的最终迭代收敛

    该研究通过研究 Riemannian 梯度下降算法，证明了无论流形的曲率如何，只要保持测地强单调性，通过使用曲率不明感的步长，可以实现曲率无关和线性的最后一次迭代收敛率。

    Jun, 2023