Mar, 2024

深度外在流形表示的视觉任务

PDF
TL;DR通过将外在流形表征嵌入到深度神经网络中，Deep Extrinsic Manifold Representation (DEMR) 方法用于视觉任务，不直接优化复杂的测地损失，而是侧重于优化嵌入欧氏空间内的计算图，以适应不同的架构要求；在两种流形类型 ——$SE (3)$ 及其相关商流形上，提供了理论上的可行性、渐近性质和泛化能力的实验证据。DEMR 在点云对齐和光照子空间学习方面表现出良好的适应性。
non-euclidean datadeep extrinsic manifold representationneural networksmanifold embeddingsvisual tasks
发现论文，激发创造
  • 使用深度神经网络学习不变的黎曼几何表征

    本文提出了一种面向流形训练深度神经网络的通用框架，利用切空间和指数映射，将最终输出元素在 Riemann 流形上的深度神经网络的训练问题转化为当前深度学习研究的问题，在多类图像分类和人脸图像回归上显示出改进后的性能。

    Aug, 2017

  • 计算可行的黎曼流形用于图嵌入

    本研究探索了在借助矩阵流形学习和优化图嵌入的情况下，如何在曲线里曼尼流形中提高图像嵌入的表现。我们的实验结果证明，在各种衡量不同图形属性的指标基础上，我们通常优于基于超球体和椭球嵌入的欧几里得嵌入，从而为非欧几里得句子嵌入在机器学习流水线中的优势提供了新的证据。

    Feb, 2020

  • 深度语言表示中可分离流形的出现

    该研究使用均场理论流形分析来分析来自大规模上下文嵌入模型的语言表示，发现在不同的模型家族中出现了语言流形的证据，尤其是在多义词和包含许多单词的词性类别中，此外，发现这些流形中的线性可分性的出现是由流形半径、维度和流形间相关性的共同减少所驱动的。

    Jun, 2020

  • DIMAL：基于稀疏测地抽样的深度等距流形学习

    本文探讨一种完全无监督的深度学习方法，用于计算保持低维嵌入的等度量映射，通过 Siamese 配置来训练神经网络以解决多维最小二乘尺度问题。

    Nov, 2017

  • 属性图嵌入的深度流形图自编码器

    该论文提出了一种用于属性图数据的新型深度流形图自编码器（DMVGAE / DMGAE）方法，以提高学习表示的稳定性和质量，并解决拥挤问题。该方法在预定义的分布下保持了原始空间和潜在空间之间节点到节点的测地线相似性，并在流行数据集上显著超过了最先进的基准算法在不同的下游任务中，验证了我们的解决方案。我们承诺会在接受后发布代码。

    Jan, 2024

  • 深度生成模型的黎曼几何

    研究了深度生成模型所学习的流形的黎曼几何，并提出了计算测地线和沿流形路径平行传递切向量的算法，发现这些模型学习的流形近似于零曲率，并探讨了这种现象的实际影响。

    Nov, 2017

  • 深度神经网络的奇异黎曼几何方法 I. 理论基础

    本论文研究基于 Riemannian 几何的新方法，探索深度神经网络在流形之间的映射及其导致的结构，指出其 pullbacks 在其他流形上生成了诱导偏度量空间的退化 Riemann 度量，给出了这种映射的理论性质，并在实用神经网络中应用其几何框架

    Dec, 2021

  • 在 Grassmann 流形上构建深度神经网络

    本文提出了一种将欧几里得网络范例泛化到 Grassmann 流形的深度网络体系结构，利用完全秩映射层将输入数据转换为更理想的数据，利用再正则化层对结果矩阵进行规范化，利用投影映射层使结构数据进行更新，并在三个视觉识别任务中的评估显示出 Grassmann 网络具有明显优势。

    Nov, 2016

  • 蛋白质表示学习的深度流形变换

    我们提出了一种新的深度流形转换方法来进行通用蛋白质表示学习（DMTPRL），通过流形学习策略改进学习嵌入的质量和适应性，利用基于图内节点相似度的新颖流形学习损失训练，DMTPRL 方法在流行数据集上的各种下游任务中表现优于最先进的基线结果，证实了我们学习通用和鲁棒的蛋白质表示的方法。

    Jan, 2024

  • 通过深度度量学习进行流形匹配，用于生成建模

    本文提出了一种流形匹配方法来生成模型，该方法包括分布生成器和度量生成器，通过学习距离度量来生成符合真实数据流形的样本，并且应用于无监督和有监督学习任务，得到了良好的效果。

    Jun, 2021