深度生成模型与流形假设之间的相互作用引起了人们的广泛关注。本文通过流形视角对 DGM 进行了首次调查，并对其进行了两个新的贡献：首先，形式上证明了高维似然函数的数值不稳定性是无法避免的；其次，发现基于自编码器的 DGM 可以被解释为近似最小化 Wasserstein 距离，这一结果有助于解释其出色的实证结果。流形视角提供了理解 DGM 的丰富视角，我们希望能够使之更加易于理解和推广。

Apr, 2024

本文提出使用高斯噪声来解决高维密度函数模拟低维结构数据时的维度不匹配问题，并基于 Tweedie's 公式和噪声方差为条件的模型提出了两种方法。研究结果表明，虽然这些方法在理论上有合理性，但在实践中表现不一，并不是解决维度不匹配问题的最佳方案。

Nov, 2022

使用统计物理学中的复制法，我们针对一个综合数据集，研究了广义线性回归和分类问题，在超参数化和不充分参数化的条件下，为这些问题提供了渐近泛化表现的闭式表达式，特别地，我们展示了逻辑回归的双重下降效应，突显了用正交投影相比随机高斯投影在学习随机特征时的优越性，讨论了隐藏流形模型中数据相关性的作用。

Feb, 2020

本文在生成对抗网络中引入流形学习方法来打磨辨别器，考虑局部约束线性和基于子空间的流形以及局部约束的非线性流形，利用流形学习和编码的设计将中间特征表示映射到流形上，并通过协调特征表示和流形视图之间的差异性，实现去噪和流形精细化的两难平衡，并在实验中发现局部约束的非线性流形优于线性流形，性能也明显优于现有的基线算法。

Dec, 2021

本文研究了 GAN 模型难以正确模拟支持在不连通流形上的分布的问题，并提出了使用多个生成器来解决这个问题的方法，并提出了一种新的方法来学习先验分布，并在不需要人工干预的情况下推断所需的生成器数量，以使模型可以学习支持在不连通流形上的分布。本文的贡献包括证明单一生成器 GAN 模型难以正确模拟支持在不连通流形上的分布以及提出了解决这个问题的方法，并通过实验来验证所提出的方法的有效性。

Jun, 2018

通过将 Riemannian 几何的思想应用到该领域，我们提出了一种基于最短路径计算的距离度量方法，可以获得基于原则的距离度量，提供深度生成模型的视觉检查工具和运动泛化工具。

Nov, 2017

研究神经网络中的多重流形问题，证明当网络深度相对于数据的几何和统计属性较大时，其宽度作为统计资源，使随机初始化网络的梯度集中，而其深度作为拟合资源，更易于分离类流形，基于神经切向核及其在训练超参数化神经网络方面的作用，我们为深度全连接网络的神经切向核提供了完全优化的集中速率。

Aug, 2020

介绍了一种名为 manifold-learning flows（M-flows）的生成模型，其可以同时学习数据流形以及流形上的概率密度，并提供降维、去噪以及区分分布等功能。同时，新的训练算法能够分离流形和密度更新，并通过一系列实验证明，M-flows 可以学习数据流形并比标准 normalizing flows 在全局数据空间下提供更好的推理。

Mar, 2020

通过学习具有少量维度流形的生成建模技术，提出一种新的建模流方法，实现了对数据的高效表示，从而更好地近似目标分布并产生较低的 FID 分数。

Oct, 2023

本论文提出一种通过神经隐式流来表示数据流形分布的方法，称为神经隐式流分布。为了解决基于前向模型的限制，引入了约束能量模型，该方法使用约束的 Langevin 动力学来训练和采样，能比前向模型更精确地学习复杂拓扑结构的流形支持分布，并允许将模型流形的并集和交集进行运算。

Jun, 2022