Sep, 2023

神经潜在几何搜索：通过格罗莫夫 - 豪斯多夫信息贝叶斯优化进行产品流形推断

PDF
TL;DR通过使用不同的几何结构，如双曲空间、球面空间和综合空间，利用神经潜空间几何搜索方法（NLGS），能够显著提高机器学习模型的性能，并能够自动识别下游任务的最佳潜空间几何。
machine learning modelslatent spacegeometriesgromov-hausdorff distancebayesian optimization
发现论文，激发创造
  • 比较模型空间的产品流形的 Gromov-Hausdorff 距离

    为了改善模型性能，最近的研究提出通过使潜空间的几何特征与基础数据结构对齐来提升机器学习模型。本文引入了一种使用 Gromov-Hausdorff 距离计算候选潜空间几何之间距离的新概念，提出了使用估计的 Gromov-Hausdorff 距离来搜索最佳潜空间几何的图搜索空间算法。本文描述了计算模型空间之间 Gromov-Hausdorff 距离的算法及其计算实现。

    Sep, 2023

  • 利用积流形进行潜在图推断

    本文提出一种基于 Riemannian geometry 和 product manifolds 的可微分图模块，用于推断连接数据的复杂潜在图结构。该方法不仅可以动态地学习数据的内在结构，还可以在性能上对现有方法进行改进并成功地在各种数据集上进行了测试。

    Nov, 2022

  • 潜在图推断的模型空间投影

    本文采用超球面和双曲线模型空间的立体投影以及黎曼流形积的方法进行潜在图推理，实现与非投影对应物相当的性能，同时提供理论保证，避免当曲率趋近于零时空间发散的问题，并在同构和异构图上进行了实验。

    Mar, 2023

  • Manifold GPLVMs 用于发现神经数据中的非欧几里德潜在结构

    提出了一种新的概率潜变量模型 (mGPLVM) 来同时确定潜变量状态和神经元对其表示的贡献，以研究神经元编码头部方向及其它相关行为表现内部潜变量构建的问题。

    Jun, 2020

  • 深度生成模型的黎曼几何

    研究了深度生成模型所学习的流形的黎曼几何，并提出了计算测地线和沿流形路径平行传递切向量的算法，发现这些模型学习的流形近似于零曲率，并探讨了这种现象的实际影响。

    Nov, 2017

  • 深层生成模型的度量标准

    通过将 Riemannian 几何的思想应用到该领域，我们提出了一种基于最短路径计算的距离度量方法，可以获得基于原则的距离度量，提供深度生成模型的视觉检查工具和运动泛化工具。

    Nov, 2017

  • 几何丰富的潜空间

    通过将环境空间视为黎曼多维流形，可以利用相关的黎曼度量对领域知识进行编码，通过环境度量的仔细设计我们可以确保最短路径的行为表现良好，实验结果表明，我们的方法可以提高随机和确定性生成器的可解释性。

    Aug, 2020

  • 用 VAEs 学习平坦的潜在流形

    本研究提出了一种基于 Riemannian geometry 的扩展的变分自编码器框架，可以学习平面的潜在流形，通过约束优化问题和使用更具表达力的层次先验代替紧凑先验，使得在保留直线状方法的计算效率的同时，能够在视频跟踪基准测试中接近监督学习方法的性能。

    Feb, 2020

  • 潜空间非线性统计

    本文提出一种基于非线性流形统计学的技术，可在低维非线性表示学习的潜空间中实现数据的统计分析，并通过训练神经网络来近似描述数据流形的黎曼度量。

    May, 2018

  • 深度生成模型中的测地线聚类

    该论文提出了一种考虑生成模型的几何特性的算法，它可以使得在潜变量表示中使用简单的聚类算法更加有效，同时提出了一种新的用于建模变分自编码器中不确定性的架构。实验表明，此算法能够反映数据的内部结构。

    Sep, 2018