May, 2023

ActUp：分析和合并 tSNE 和 UMAP

PDF
TL;DR本文通过对 tSNE 和 UMAP 算法中的参数空间进行理论和实证研究，发现仅有的一个参数 -- 规范化参数，可以在两个算法之间进行切换，而不会对嵌入产生任何影响。基于此，提出一种方法（ourmethod）结合 tSNE 和 UMAP 的技术，可以复制任一算法的结果，并在速度上取得更快的响应。
dimensionality reductiontsneumapnormalizationalgorithmic differences
发现论文，激发创造
  • GiDR-DUN; 梯度降维 —— 差异和统一

    本文提出了一种新的降维算法 GDR，该算法结合了 TSNE 和 UMAP 算法的优点，可以通过改变标准化参数来实现对两种算法结果的复制，并且优化速度相较于现有算法更快。

    Jun, 2022

  • 不可解释的解释：解读 tSNE 和 UMAP 的嵌入

    研究在神经网络中应用降维方法 tSNE 和 UMAP 时出现的假设，证明 ARDR 算法一定会收敛并探讨如何从 2D 的表现推回模型的原输入分布。

    Jun, 2023

  • 经典降维的一种模型：UMAP 和 t-SNE 的概率视角

    该论文表明降维方法 UMAP 和 t-SNE 可以近似重构为与 ProbDR 中引入的广义 Wishart 模型对应的 MAP 推断方法，这种解释不仅可以提供对这些算法更深入的理论洞察，还引入了研究类似降维方法的工具。

    May, 2024

  • 理解降维工具的工作原理：一种实证方法用于解析 t-SNE、UMAP、TriMAP 和 PaCMAP 进行数据可视化

    本文旨在深入探讨降维方法中保留局部和全局结构的重要性，针对保留局部结构提出了一些新的设计原则，并发掘出保留哪些部分对于保持全局结构的重要性，在此基础上提出一种新的降维算法 PaCMAP，该算法同时保留了局部和全局结构，并为构建降维算法时提供了一些出乎意料的设计选择报告。

    Dec, 2020

  • 关于 UMAP 真实损失函数的研究

    本研究针对 UMAP 在高维数据可视化方面超越 t-SNE 等方法的原因进行了详细调查，并推导出了 UMAP 的有效损失函数，发现它不同于已发表的损失函数。我们认为 UMAP 的成功关键在于其负采样实现的引力和斥力的平衡，并通过梯度下降法进行优化，这在玩具和单细胞 RNA 测序数据上得到了验证。

    Mar, 2021

  • UMAP: 统一流形近似投影降维

    UMAP 是一种基于黎曼几何和代数拓扑的流形学习技术，可以作为机器学习中通用的降维算法，具有与 t-SNE 相当的可视化质量和更好的整体结构保留能力，并且没有关于嵌入维度的计算限制。

    Feb, 2018

  • 使用 UMAP 进行聚类：连通性的重要性及其原因

    本研究通过深入研究 UMAP，通过对 4 个标准图像和文本数据集的大量消融研究，发现互相 k 最近邻和最小生成树相结合的更精细的连通性概念以及构建局部邻域的灵活方法，可以比默认 UMAP 更好地实现降维，并通过下游聚类性能进行评估。

    Aug, 2021

  • 用于表征和半监督学习的参数化 UMAP 嵌入

    本文介绍了一种基于 Riemannian 几何和代数拓扑的非参数图形降维算法 UMAP 及其通过神经网络权重进行参数优化以实现快速在线嵌入的拓展。研究进一步探索了 UMAP 作为正则化的应用，以捕获未标记数据中的结构，提高分类器的精度，并改善自编码器的潜在分布的全局结构保留。

    Sep, 2020

  • 近似 UMAP 允许高速在线可视化高维数据流

    在脑机接口领域，我们引入了一种名为近似 UMAP（aUMAP）的新方法，用于实时推断，其结果显示该方法能够在减少投影速度一个数量级的同时维持与标准 UMAP 相同的训练时间和投影空间。

    Apr, 2024

  • 高维数据降维的层次最近邻图嵌入方法

    提出了一种基于层次结构的 1 - 最近邻图的新方法，可以在保留数据分布多个级别的分组属性的同时，实现具有可解释机制、可视化品质高、运行速度快且可用于多种场景的非监督降维技术，并在不同规模、不同维度的多个数据集上进行了性能比较。

    Mar, 2022