- StiefelGen:将简单通用的方法应用于黎曼流形上的时间序列数据增强
本文提出了一种方法,通过使用 Stiefel 流形的矩阵微分几何,将时间序列信号放置在流形上,并在流形上平滑扰动,以同时解决数据增强、时间序列数据和神经网络模型方面的限制。
- FORML:一种具有正交约束的元学习的黎曼海森自由方法
介绍了一种在 Riemann 流形上使用 Stiefel 近似的 Hessian-free 方法,通过使用 Stiefel 全连接层来增强基于梯度的元学习方法的表示重用,实验结果表明该方法在各种少样本学习数据集上优于现有方法,尤其是欧几里得 - 分布式黎曼共轭梯度法在斯蒂芬尔流形上的应用
这篇论文提出了一种分布式黎曼共轭梯度下降(DRCGD)方法,旨在最小化斯蒂弗尔流形上的全局函数,该方法是第一个能够在斯蒂弗尔流形上实现全局收敛的分布式黎曼共轭梯度算法,并且避免了昂贵的黎曼几何运算,从而减少了每个代理所需的计算复杂性。
- 将原始表示和对偶表示相结合的深度受限核机分类器
本研究提出了一种基于深度受限核机 (DRKM) 框架的新的分类方法,将 KPCA 和分类级别的目标结合起来,其中隐藏特征矩阵位于 Stiefel 流形上,分类级别可以是 LSSVM 或 MLP 特征映射,深 KPCA 级别可以嵌入数据的最具 - 将 Adam 推广到流形上以高效训练 Transformers
通过利用特殊结构(如 Stiefel 流形、simplectic Stiefel 流形、Grassmann 流形和 simplectic Grassmann 流形)对神经网络优化进行降维处理,成功地将 Adam 算法推广到了流形层面上,并将 - 对比逆回归降维
本文提出了一种针对对照研究的有监督降维方法 contrastive inverse regression,该方法使用 Stiefel 流形和非标准损失函数进行优化,并在数字学习中证明了其相对于竞争方法的改进性能。
- 应用于排列同步的 Stiefel 流形上的稀疏二次优化
本研究针对在 Stiefel 流形上最大化(或最小化)二次目标函数的的优化问题,提出了一种基于正交迭代算法的稀疏矩阵优化方法,并将其应用于排列同步问题,取得了比之前更好的结果。
- AAAI基于 MMD 的 Stiefel 流形优化的快速高效公平 PCA 算法
本文提出了一种公平的主成分分析方法,该方法使用最大均值差异法对不同保护类别的条件分布进行降维,并将多目标策略与数据降维技术相结合,通过在 Stiefel 流形上的非凸优化过程,优化约束条件下的主成分分析,得到较高的计算效率和分类精确性。使用 - ICLR通过 Cayley 变换在 Stiefel 流形上实现高效的黎曼最优化
本研究通过对参数进行正交约束优化,提出了两种算法 - Cayley SGD 和 Cayley ADAM,达到节省运行时间的效果并实现了 CNN 的更快收敛率与更少训练时间。
- ICCVGODS:一类通用的判别子空间用于异常检测
本文提出了一种新的针对单类学习的目标方法,采用正交归一帧子空间 “夹住” 标记数据,通过同时最小化两个目标来进行优化,即:缩小两个子空间的原点之间的距离,同时最大化正交超平面与数据之间的间隔,达到数据标记的目的,并在提出的 Dash-Cam - ECCV通过对抗扰动的对比视频表示学习
此篇论文提出一种新的对比学习方法 —— 用对抗性扰动来构建负样本,以生产改进后的视频表征,并使用斯蒂费尔流形上的黎曼优化方法以实现子空间学习目标,最终产生具有较好鲁棒性的视频表征。
- (紧)斯蒂费尔流形的统计学理论和应用
本文定义了一个基于高斯分布的同构空间概率分布,并证明了最大似然估计的位置参数与该概率分布中样本的 Fréchet 平均值相同。同时,我们提出一种递归计算算法来计算来自 Stiefel 流形上高斯分布的 Fréchet 平均值,多组实验数据证 - 正交约束下的二次优化:显式 Lojasiewicz 指数与线性搜索方法的收敛性
本研究给出了一个 Lojasiewicz 不等式的指数估计,证明了一类线性搜索方法的收敛性。该方法可用于解决许多科学和工程领域的矩阵优化问题,例如二次优化问题和正交性约束问题。
- 在 Stiefel 流形上进行优化的约束保持更新方案框架
该研究提出了在 Stiefel 流形上优化问题的约束保持更新框架,并使用低复杂度的成本发现了一种新的更新方案。通过自适应非单调线性搜索确定该方法的全局收敛性, 数值测试表明这种框架适用于最近的低秩相关矩阵问题,Kohn-Sham 总能量最小 - 具有正交约束的算法几何学
本文介绍了关于 Grassmann 和 Stiefel 曼陀罗上的一些新的数值线性代数算法,具有优秀的性能表现,并可用于对称特征值问题、非线性特征值问题、电子结构计算和信号处理等领域中出现的约束条件进行建模。