ICLRMay, 2019

数据形态：数据分布的内在距离

PDF
TL;DR用 Gromov-Wasserstein 距离的下界，通过对所有数据矩计算，基于内在和多尺度的方法对比数据流形。实验证明，该方法能够有效地识别不同维度未对齐数据的结构，并展示了在评估生成模型质量方面的功效。
machine learning modelsdata distributionsdata manifoldsgromov-wasserstein inter-manifold distancegenerative models
发现论文，激发创造
  • 比较流形和图上概率分布集合的内在切片瓦热斯坦距离

    本文介绍一种在各种定义域类型上能检测两个直方图集合差异的方法，该方法通过提出的内部切片构造，在规模空间是可嵌入的希尔伯特空间中利用两种测试程序，即重新取样和组合坐标测试的途径，将直方图集合比较问题转化为更熟悉的均值检验问题，并给出了在线性监测、脑连接性等应用场景上丰富的实验 。

    Oct, 2020

  • 度量测度空间中的距离分布与反问题

    本文旨在建立一个正式的框架来评估距离分布的判别能力，即这些伪度量无法定义适当的度量的程度，我们使用多个度量空间类别构建了一些精确的逆问题，并介绍了一个变量的 Gromov-Wasserstein 距离用于测量度量度量空间的距离。

    Oct, 2018

  • 基于几何洞见的隐式生成模型

    该研究探讨了几个度量数据分布与隐式模型分布差异的标准，发现这些度量在概率测度空间中引入了不同的几何特性，特别是当参数生成器具有非凸参数化时，$1$-Wasserstein 距离能够实现惊人的近似全局收敛保证。

    Dec, 2017

  • 比较模型空间的产品流形的 Gromov-Hausdorff 距离

    为了改善模型性能，最近的研究提出通过使潜空间的几何特征与基础数据结构对齐来提升机器学习模型。本文引入了一种使用 Gromov-Hausdorff 距离计算候选潜空间几何之间距离的新概念，提出了使用估计的 Gromov-Hausdorff 距离来搜索最佳潜空间几何的图搜索空间算法。本文描述了计算模型空间之间 Gromov-Hausdorff 距离的算法及其计算实现。

    Sep, 2023

  • 本质维度相关性：揭示多模态表示中的非线性连接

    探索了机器学习方法背后的机制，利用内在维度与相关性之间的纠缠提出了一种度量标准，用于量化高维流形之间的相关性。验证了方法在合成数据上的优势和缺点，并在神经网络表示中将分析扩展到大规模应用，揭示了多模态数据的潜在表示之间明显的关联，而现有方法在检测相似性方面存在显著困难。研究结果表明了潜在流形之间高度非线性的相关性模式的存在。

    Jun, 2024

  • 量化分布漂移和不确定性，提升机器学习应用的模型鲁棒性

    使用合成数据和统计度量来评估分布变化和模型不确定性，为实现机器学习应用在现实世界中的成功部署提供了重要方法和见解。

    May, 2024

  • 深层生成模型的度量标准

    通过将 Riemannian 几何的思想应用到该领域，我们提出了一种基于最短路径计算的距离度量方法，可以获得基于原则的距离度量，提供深度生成模型的视觉检查工具和运动泛化工具。

    Nov, 2017

  • 跨不可比空间学习生成模型

    本文介绍了一种基于 Gromov-Wasserstein 距离的生成式模型学习方法，可以在不同空间里学习并掌握目标特性，具有应用于流形学习、关系学习和跨域学习等任务的灵活性。

    May, 2019

  • 大规模几何学习的内在维度

    本文提出了确定内在维度函数的计算方法，通过将数学测量集中现象公理地与内在维度联系起来，我们证明了其计算的可行性，并在模型中体现了复杂数据的几何特性，特别地，我们提出了一种将邻域信息纳入内在维度的主要方式，使得对常见图学习过程的新洞察成为可能。

    Oct, 2022

  • 评估科学生成模型的统计距离实用指南

    本研究旨在理解和评估用于科学中生成模型的统计距离，包括 Sliced-Wasserstein、Classifier Two-Sample Tests、Maximum Mean Discrepancy 等方法。通过评估决策模型和生成医学图像模型，展示了这些不同距离对相似数据的不同结果。

    Mar, 2024