Aug, 2024

用于从玻尔兹曼密度采样的迭代能量基础流匹配

HTML
PDF
TL;DR本文针对训练生成器以评估能量函数或未归一化密度的问题，提出了迭代能量基础流匹配（iEFM）方法，这是首个从未归一化密度训练连续归一化流模型的离线策略。研究表明，iEFM在高维复杂系统中展示了其在效率和可扩展性上的优势，为科学应用提供了新的解决方案。
发现论文，激发创造
  • 基于流的生成模型在格子场理论马尔可夫链蒙特卡罗中的应用

    使用基于机器学习流的生成模型的马尔可夫链更新方案，可用于网格场论的蒙特卡罗采样。

    Apr, 2019

  • 随机正常化流

    提出了随机归一化流的概念，它是一种在机器学习和统计力学领域中解决概率分布采样问题的方法，具有较快的采样效率和较强的表示能力。

    Feb, 2020

  • 平滑归一化流

    本文介绍了一种使用混合变换的规范连续流方法，可应用于计算力和高阶导数所需的平滑密度函数，并可用于分子动力学模拟。

    Oct, 2021

  • 自适应流抽样平衡训练能量函数模型

    本研究提出一种新的最大似然训练算法，使用正规化流（NF）来提高能量基模型（EBMs）的采样效率及精度。

    Jun, 2023

  • 等变流匹配

    本文提出了一种新的训练目标equivariant flow matching，该方法是基于最近提出的 optimal transport flow matching，利用目标能量的对称性来对称等变CNFs进行高效的仿真-free训练，在许多粒子系统和小分子alanine dipeptide中展示了我们方法的有效性，我们首次获得了一个具有显着采样效率的Boltzmann生成器，而不依赖于定制的内部坐标特征选取。

    Jun, 2023

  • SE(3)等变增强耦合流

    通过在附加的扩充维度上执行坐标分割，本文提出了一种保持SE(3)和排列等变性的耦合流，能够快速采样和密度评估，并可用于产生对目标分布的期望的无偏估计。同时，本文显示该流模型在相同应用上比等变连续归一化流快两个数量级，并首次成功学习仅通过对原子的笛卡尔位置进行建模从而获得丙氨酸二肽的玻尔兹曼分布。最后，本文展示了该流模型可以通过仅使用粒子系统的能量函数在DW4和LJ13粒子系统的玻尔兹曼分布上进行近似采样。

    Aug, 2023

  • 具有混合概率传输的等变流匹配

    通过引入几何流匹配，本文在特征稳定的概率动力学和同态建模之间提出了一个混合概率路径，用于3D分子的生成，并在多个分子生成基准测试中实现了更好的性能和平均4.75倍的采样速度提升。

    Dec, 2023

  • 迭代去噪能量匹配用于从玻尔兹曼密度中采样

    我们提出了一种名为迭代去噪能量匹配（iDEM）的算法，用于从未归一化概率分布中高效地生成统计独立的样本，并采用基于扩散的采样器和随机匹配目标来改进采样器，实现了对高维数据和能量景观的有效探索和学习。

    Feb, 2024

  • 马尔可夫流匹配: 用连续正规化流加速MCMC

    通过建模生成概率路径的向量场，连续归一化流（CNFs）利用神经网络学习参考密度与目标密度之间的概率路径。本文重新利用流匹配（FM）方法，结合马尔可夫采样方法评估FM目标和使用学习的概率路径改进蒙特卡洛采样，将该方法用于概率推断。我们提出了一种顺序方法，利用马尔可夫链的样本修正定义FM目标的概率路径。我们增加了自适应调节机制以发现目标中的多个模式。在温和的假设下，我们证明了FM目标的局部最优收敛性，讨论了收敛速率的改进，并在合成和真实世界示例中说明了我们的方法。

    May, 2024

  • 通过一致性模型实现有效且无偏的玻尔兹曼分布采样

    本研究解决了玻尔兹曼生成器面临的两个核心问题：模型缺陷导致样本的固有误差，以及获得高质量样本需要数百次功能评估。本文提出了一种新颖的采样方法，将一致性模型与重要性采样有效结合，结果显示该方法在仅需6-25次功能评估的情况下，依然能够生成无偏样本，且有效样本量与需要约100次功能评估的去噪扩散概率模型相当。

    Sep, 2024