Jul, 2023

几何神经扩散进程

PDF
TL;DR本文将扩展扩散模型的框架，将几何先验引入无限维建模，并通过构建噪声过程和近似得分实现对称性，展示了该模型适用于模拟扩散模型的任意对称性情景以及在复杂的合成场景和天气数据上的可扩展性和容量。
denoising diffusion modelsinfinite-dimensional euclidean spacesstochastic processesgeometric priorsequivariant neural network
发现论文，激发创造
  • 受限域的扩散模型

    本研究提出两种方法来扩展扩散模型至通过不等式约束定义的流形，包括基于对数障碍度量的失真度量以及基于反射布朗运动的失真度量，在合成和真实任务中进行了实证表明，包括蛋白质骨架和机器人臂运动的约束构象模拟。

    Apr, 2023

  • 物理相关扩散模型

    通过在模型训练过程中加入约束条件使其生成的样本更符合所施加的约束，从而提高生成样本与约束的一致性，且相较于现有方法有更好的性能且不影响推断速度；该方法还可以自然地防止过拟合。

    Mar, 2024

  • 通过 Riemannian 扩散过程的混合在流形上进行生成建模

    基于 Riemann 流形的扩散混合模型，通过以端点条件的扩散过程的混合来构建一种流形上的生成过程，取代以往扩散模型的去噪方法，更好地在高维度上表现，并在各种流形上优于现有的生成模型。

    Oct, 2023

  • 函数空间中的基于分数的扩散模型

    本研究提出了一种名为去噪扩散算子的数学严谨框架，用于在函数空间中训练扩散模型，将它推广到无限维函数空间的应用，其中前向过程是逐渐扰动输入函数，生成过程是通过积分的函数值 Langevin 动力学实现。

    Feb, 2023

  • 基于双曲几何的潜在扩散模型用于图生成

    通过建立基于双曲几何的可解释度度量的几何潜变空间，使用径向和角度几何特性约束的几何潜变过程，HypDiff 框架能有效地捕捉和保留图的拓扑信息，并在各种拓扑结构的图生成中表现出卓越的效果。

    May, 2024

  • 结构保持扩散模型

    最近几年扩散模型已成为主要的分布学习方法。本文介绍了一种称为结构保持扩散过程的扩散模型系列，用于学习具有额外结构特征（例如群对称性）的分布。该研究通过开发理论条件，使扩散转移步骤保持所述对称性，从而使得数据采样轨迹具有等变性。我们以开发一系列不同对称等变的扩散模型来验证这些结果，并能够学习具有固有对称性的分布。通过在合成和真实数据集上进行实证研究，我们验证了所提出的模型符合提出的理论，并在样本均等性方面能够实现比现有方法更好的性能。我们还展示了如何使用所提出的模型，在不事先了解图像方向的情况下实现理论上有保证的等变图像降噪。

    Feb, 2024

  • 基于 Metropolis 抽样的约束扩散模型

    本文介绍了一种基于 Metropolis 抽样算法的简单去噪方案，证明了该新方法对应于反射布朗运动的有效离散化方法，并在包括地理空间建模、机器人技术和蛋白质设计在内的一系列问题设置上展示了我们方法的可扩展性和灵活性。

    Jul, 2023

  • 去噪扩散伽马模型

    本文提出了一种基于 Gamma 噪声的去噪扩散 Gamma 模型（DDGM），并通过图像和语音生成任务验证了其性能优于传统的基于高斯噪声的扩散模型。

    Oct, 2021

  • 量子噪声驱动的生成式扩散模型

    量子驱动扩散模型的量子泛化被提出，并讨论了可在实际量子系统上进行实验测试的三种量子噪声驱动的生成扩散模型。通过利用量子噪声作为生成更复杂的概率分布的重要成分，我们的结果有望为处理从气候预测到神经科学、交通流分析到金融预测等广泛的实际应用任务的新型量子驱动生成扩散算法铺平道路。

    Aug, 2023

  • 基于几何优化的去噪扩散模型用于三维分子生成

    提出了一种名为几何促进分子扩散（GFMDiff）的新型分子生成方法，通过引入双轨 Transformer 网络（DTN）和几何促进损失（GFLoss）解决了构成二元边和模型分子几何形状的多体间相互关系的建模问题。在现有基准上的全面实验证明了 GFMDiff 的优越性。

    Jan, 2024