May, 2024

利用领域知识探索 UMAP 投影的镜头函数

PDF
TL;DR基于 Mapper 和 STAD 的灵感，本文针对 UMAP 提出了三种类型的镜头函数，用于领域知识引导的交互式探索，以实现将高维数据投影到二维空间并显示隐藏模式的目的。通过使用镜头函数，分析人员可以根据问题调整投影，揭示不可见的模式，并通过筛选连接性来探索手动选择的特征与数据结构之间的相互作用，从而创造可能揭示新见解的可配置视角。本文在两个使用案例中展示了镜头函数的有效性，并在合成基准测试中分析了它们的计算成本。
发现论文，激发创造
  • UMAP: 统一流形近似投影降维

    UMAP 是一种基于黎曼几何和代数拓扑的流形学习技术，可以作为机器学习中通用的降维算法，具有与 t-SNE 相当的可视化质量和更好的整体结构保留能力，并且没有关于嵌入维度的计算限制。

    Feb, 2018

  • 透镜机：在潜变量模型中表示视角

    本文介绍了 lensing 技术，包括机器学习模型和人类专家视角的映射关系，并应用于潜在变量模型中，捕捉和融合临床心理学家的不同视角，证明了将领域知识专家的视角纳入模型中的好处。

    Jan, 2022

  • 近似 UMAP 允许高速在线可视化高维数据流

    在脑机接口领域，我们引入了一种名为近似 UMAP（aUMAP）的新方法，用于实时推断，其结果显示该方法能够在减少投影速度一个数量级的同时维持与标准 UMAP 相同的训练时间和投影空间。

    Apr, 2024

  • 神经透镜建模

    本研究提出一种神经镜头模型 ——NeuroLens，通过神经网络对失真和暗角进行建模并进行优化，可用于预捕捉校准、重新校准，同时可集成到现有的三维重建和渲染系统中，并在比起标准配套和最新方法时表现更好。

    Apr, 2023

  • 理解降维工具的工作原理：一种实证方法用于解析 t-SNE、UMAP、TriMAP 和 PaCMAP 进行数据可视化

    本文旨在深入探讨降维方法中保留局部和全局结构的重要性，针对保留局部结构提出了一些新的设计原则，并发掘出保留哪些部分对于保持全局结构的重要性，在此基础上提出一种新的降维算法 PaCMAP，该算法同时保留了局部和全局结构，并为构建降维算法时提供了一些出乎意料的设计选择报告。

    Dec, 2020

  • CBMAP：基于聚类的流形逼近和投影用于降维

    介绍了一种基于聚类的降维方法 CBMAP，旨在同时保留全局和局部结构，提供速度、可扩展性和对超参数依赖较小的解决方案，满足机器学习应用中对测试数据的低维投影的需求。

    Apr, 2024

  • SLISEMAP: 通过本地解释进行监督降维

    本文提出了一种新的监督流形可视化方法 SLISEMAP，通过在所有数据项中同时寻找本地解释并建立二维全局可视化黑盒子模型的方法，可以得到全局解释。相似的本地解释投影在附近。 SLISEMAP 可以利用有标签数据创建具有一致本地白盒模型的嵌入，从而更好地解释和理解黑盒回归和分类模型。

    Jan, 2022

  • 朝着能够看见的语言模型：通过自然语言镜头看计算机视觉

    LENS 是一种模块化的方法，针对计算机视觉问题，利用大型语言模型进行推理，可以应用于零 / 少样本对象识别，以及视觉和语言问题。

    Jun, 2023

  • 用于表征和半监督学习的参数化 UMAP 嵌入

    本文介绍了一种基于 Riemannian 几何和代数拓扑的非参数图形降维算法 UMAP 及其通过神经网络权重进行参数优化以实现快速在线嵌入的拓展。研究进一步探索了 UMAP 作为正则化的应用，以捕获未标记数据中的结构，提高分类器的精度，并改善自编码器的潜在分布的全局结构保留。

    Sep, 2020

  • 参数化透镜的深度学习

    我们提出了一种基于镜头、参数化映射和反向导数范畴的机器学习算法的分类语义学。这一基础提供了一个强大的解释性和统一性框架：它包括了各种梯度下降算法，如 ADAM、AdaGrad 和 Nesterov 动量，以及各种损失函数，如 MSE 和 Softmax 交叉熵，以及不同的架构，揭示了它们的相似性和差异。此外，我们的学习方法超越了熟悉的连续领域的示例（在光滑映射范畴中建模），并且可以应用于布尔电路和多项式电路的离散环境。我们通过 Python 实现展示了我们框架的实际意义。

    Mar, 2024