KDDOct, 2020

可逆流形学习在降维中的应用

PDF
TL;DR该论文提出了一种名为 invertible manifold learning 的两阶段降维方法来保持拓扑和地理结构的完整性，其中包括一个稀疏坐标转换学习低维表示和一个局部等距约束来保留局部几何形状，同时通过线性压缩在目标维度和信息损失之间寻找平衡点，并使用 i-ML-Enc 在七个数据集上进行了实验，证明该方法可以实现可逆降维以及学习流形数据的性质。
dimension reductionmanifold learninginvertible manifold learningtopological preservationlinear compression
发现论文，激发创造
  • 利用信息流形投影进行聚类探索

    我们提出了一种新的方法，用于生成信息丰富的嵌入，该方法不仅消除了与不同类型先验知识相关的结构，还旨在揭示任何剩余的基本结构，通过采用两个目标的线性组合：首先是对先验信息相关结构进行折扣的对比主成分分析 (contrastive PCA)，其次是通过峰度投影追求 (kurtosis projection pursuit) 确保得到的嵌入中存在有意义的数据分离，并将此任务形式化为流形优化问题，并在考虑三种不同类型的先验知识的各种数据集上进行了经验验证，最后，我们提供了一个自动化框架，用于对高维数据进行迭代的视觉探索。

    Sep, 2023

  • 降维作为概率推断

    本文提出了 ProbDR 变分框架，将许多经典的降维算法视为该框架下的概率推断算法。我们的框架利用低维潜变量构建协方差矩阵、精度矩阵或图拉普拉斯矩阵，这些矩阵可作为数据生成模型的一部分。利用此框架，我们可以更容易地处理未见数据，并且得到较为准确的高斯过程似然估计结果。

    Apr, 2023

  • 流形学习：是什么，怎么做，为什么

    Manifold learning is a set of methods to find the low dimensional structure of data, allowing visualization, de-noising, and interpretation, with a focus on statistical foundations and parameter choices.

    Nov, 2023

  • 马尔可夫 - 利普希茨深度学习

    该研究提出了一种名为 Markov-Lipschitz 深度学习（MLDL）的新框架，用于处理神经网络转换中的几何退化，以实现基于流形的表示学习和流形数据生成。该框架可以通过引入局部等距光滑（LIS）先验约束到马尔可夫随机场（MRF）Gibbs 分布中，使层间具有良好的 LIS 受限性，从而增强了矢量变换。大量实验、比较和消融研究显示了 MLDL 在流形学习和流形数据生成方面的显著优势。

    Jun, 2020

  • 降维的本地解释

    介绍一种称为 LXDR 的技术，可以为 DR 技术的输出提供本地解释，以解决 DR 技术通常难以解释的问题，并通过实验结果和两个 LXDR 使用案例来评估其实用性。

    Apr, 2022

  • 流形学习的规范正则化流模型

    通过学习具有少量维度流形的生成建模技术，提出一种新的建模流方法，实现了对数据的高效表示，从而更好地近似目标分布并产生较低的 FID 分数。

    Oct, 2023

  • 归纳全局与局部流形逼近与投影

    GLoMAP 及其归纳版本 iGLoMAP 是一种新颖的流形学习方法，用于非线性降维和高维数据可视化，能有效地保留局部和全局的距离估计，并通过优化过程逐步展示从全局到局部形成的进展。iGLoMAP 通过深度神经网络使得在未见过的数据点上能够提供低维嵌入而无需重新训练算法，并适用于小批量学习，以加快梯度计算速度。经过与当前最先进的方法进行竞争性实验，在模拟数据和真实数据环境下成功应用了 GLoMAP 和 iGLoMAP。

    Jun, 2024

  • SPD 流形上的降维： 几何感知方法的出现

    本篇论文介绍了如何通过构造一个低维对称正定矩阵流形来解决高度计算成本的难题，并进一步提出了一种处理高维对称正定矩阵的算法，以此来实现降维，最后在多个分类任务中验证了该方法的有效性。

    May, 2016

  • 从流形到流形：用于 SPD 矩阵的几何感知降维

    使用正定对称 (SPD) 矩阵表示图像和视频，并考虑到所得空间的里曼尼几何，已被证明在许多识别任务中有益。本文引入了一种方法来构建一个更具判别力的低维 SPD 流形以处理高维 SPD 矩阵，并将学习表述为 Grassmann 流形上的优化问题。实验表明，与现有技术相比，我们的方法可使分类准确性显著提高。

    Jul, 2014

  • S-Isomap++：流式数据的多流形学习

    本文提出了一种用于多个流形或不规则采样的单个流形的流式 NLDR 方法，解决了现有方法在存在多个流形或不规则采样的单个流形时的局限性，可以有效地从大量流数据中学习。

    Oct, 2017