Geoopt: PyTorch 中的黎曼优化
该论文介绍了 Geomstats,一种开放源代码的 Python 工具箱,用于在非线性流形上进行计算和统计学,其提供了可靠的可重用构件,适用于机器学习应用中的微分几何和统计学领域。
Apr, 2020
介绍了 geomstats 这个 python 包,它支持处理多维流形,并提供多种 Riemannian metrics 以及 keras 深度学习框架等的实现,从而在机器学习中提供了一系列直观的损失函数选择。Paper 还对机器学习中的流形进行了回顾,并对 geomstats 进行了概述,并通过展示使用 geomstats 实现基于 Riemannian geometry 的机器学习示例来演示其高效性和易用性。
May, 2018
本研究介绍了 Pymanopt,一个用于在流形上进行优化的工具箱,它实现了几何流形和优化算法,并使用自动微分计算导数信息,以节省用户的时间和避免潜在的计算和实现错误。
Mar, 2016
论文主要介绍了流形上的优化方法在处理机器学习应用中出现的结构性约束时的优越表现,介绍了基于 Riemannian 优化算法的 Manopt 工具箱,并旨在让优化领域之外的从业者更容易地尝试最新的算法。
Aug, 2013
通过在具有截断度量的流形上进行优化,我们得到了函数的最优解,并通过构造适当的回缩映射将途经的递近测地线拉回到流形上,从而有效地沿着近似的测地线进行优化。
Aug, 2023
PyTorch Geometric 是一个基于 PyTorch 的深度学习库,用于处理不规则结构的输入数据,如图形,点云和流形。该库通过利用稀疏 GPU 加速,提供专用的 CUDA 内核以及引入对不同大小的输入示例的高效小批量处理,实现了高数据吞吐量。本文详细介绍了该库,并在同质评估场景下对实现的方法进行了全面比较研究。
Mar, 2019
将 Adam、Adagrad 和 Amsgrad 等流行的自适应随机优化方法扩展到里曼流形上面的困难以及基于里曼流形的优化算法和渐进结果的提出,同时在实验中证明该算法比原算法更快且表现更好。
Oct, 2018
本文介绍了 McTorch,一个用于在深度学习中扩展 PyTorch 的流形优化库,旨在降低希望在深度学习应用中使用流形约束(即,参数限制在流形上)的用户的使用门槛。
Oct, 2018
该研究提出了一种使用 Riemannian 流形理论的方法,以在机器人学领域中处理非欧几里德参数空间的高维度问题,从而增强了贝叶斯优化的效果,测试结果表明该方法具有较好的性能。
Oct, 2019
本论文研究基于 Riemannian 几何的新方法,探索深度神经网络在流形之间的映射及其导致的结构,指出其 pullbacks 在其他流形上生成了诱导偏度量空间的退化 Riemann 度量,给出了这种映射的理论性质,并在实用神经网络中应用其几何框架
Dec, 2021