邻居嵌入中的吸引 - 排斥谱 | BriefGPT

Jul, 2020

邻居嵌入中的吸引 - 排斥谱

Attraction-Repulsion Spectrum in Neighbor Embeddings

Jan Niklas Böhm, Philipp Berens, Dmitry Kobak

TL;DR本研究介绍了邻居嵌入算法族，针对不同的连续流形结构和离散聚类结构之间的权衡关系，以 $t-SNE$ 为例，通过夸张参数来调节吸引力与排斥力之间的平衡，得到了一系列的嵌入，UMAP 算法通过负采样策略降低有效排斥，较高的吸引力偏重于表达连续流形结构，而较高的排斥力偏重于表达离散聚类结构，邻居嵌入算法族可以被放置在这个平衡的关系上，探讨常见的算法在这个关系上的位置。

Abstract

neighbor embeddings are a family of methods for visualizing complex high-dimensional datasets using $k$NN graphs. To find the low-dimensional embedding, these algorithms combine an attractive force between neighboring pairs of points with a repulsive force between all points. One of th

neighbor embeddings k-nn graphs t-sne umap forceatlas2

发现论文，激发创造

不可解释的解释：解读 tSNE 和 UMAP 的嵌入

研究在神经网络中应用降维方法 tSNE 和 UMAP 时出现的假设，证明 ARDR 算法一定会收敛并探讨如何从 2D 的表现推回模型的原输入分布。

Jun, 2023

关于 UMAP 真实损失函数的研究

本研究针对 UMAP 在高维数据可视化方面超越 t-SNE 等方法的原因进行了详细调查，并推导出了 UMAP 的有效损失函数，发现它不同于已发表的损失函数。我们认为 UMAP 的成功关键在于其负采样实现的引力和斥力的平衡，并通过梯度下降法进行优化，这在玩具和单细胞 RNA 测序数据上得到了验证。

Mar, 2021

t-SNE 可视化高维聚类数据的理论基础

本文对 t-SNE 算法的理论框架进行了研究，在梯度下降法的基础上提出了一种新的理论框架；对于 t-SNE 的 embedding 阶段，文中还对其低维映射的运动学进行了表征和说明。通过本文，我们发现了 t-SNE 的内在机制并说明其在可视化聚类数据方面具有非凡的实用性。

May, 2021

随机聚类嵌入

本文提出了一种基于邻域嵌入的新型集群可视化方法，使用非归一化 Kullback-Leibler 散度和缩放参数以进一步优化数据聚类的可视化效果。

Aug, 2021

高维数据降维的层次最近邻图嵌入方法

提出了一种基于层次结构的 1 - 最近邻图的新方法，可以在保留数据分布多个级别的分组属性的同时，实现具有可解释机制、可视化品质高、运行速度快且可用于多种场景的非监督降维技术，并在不同规模、不同维度的多个数据集上进行了性能比较。

Mar, 2022

利用方向感知的 t-SNE 可视化高维时序数据

我们提出了两个互补的、方向感知的损失项，用于优化 t-SNE 的目标函数，强调数据的时间属性，指导优化和生成的嵌入结果，以显示出可能被忽略的时间模式。通过促进定向边的局部方向性，我们的方法产生了更具有时间意义且不那么混乱的可视化结果。

Mar, 2024

用对比学习进行监督式随机近邻嵌入

在保留数据集邻近信息的范围内，我们将自监督对比方法扩展到完全监督的设置，以有效利用标签信息。属于同一类别的样本集群在低维嵌入空间中聚集在一起，同时将不同类别的样本集群推开。

Sep, 2023

对图像数据集进行对比学习无监督可视化

提出了一种基于对比学习和邻居嵌入的新方法，称为 t-SimCNE，用于无监督可视化图像数据，并在 CIFAR-10 和 CIFAR-100 数据集上展示了信息丰富的聚类结构和异常值。

Oct, 2022

核 t 分布随机邻域嵌入

本文介绍了 t-SNE 算法的核化版本，能够将高维数据映射到低维空间并在非欧几里德度量下保留数据点之间的成对距离，可以通过仅在高维空间或在两个空间中使用核技巧来实现，提供了数据点之间关系的新视角，改进了包括使用核方法的分类问题的性能和准确性，并利用多个数据集阐明了 t-SNE 和其核化版本之间的区别，展示了不同类别点的更整洁的聚类。

Jul, 2023

高效可视化大型图

本文介绍了一种基于降维的新颖图形可视化方法，称为 t-SGNE。t-SGNE 专门设计用于可视化图中的聚类结构，并通过使用图的邻居结构将时间复杂度从二次降低到线性的方式，支持更大规模的图。此外，结合拉普拉斯特征图嵌入算法和图中的最短路径算法形成了图嵌入算法 SPLEE，可以在 5 分钟内对具有 300K 节点和 1M 边缘的图进行可视化，且可视化质量提升约 10%。

Oct, 2023