ICMLFeb, 2022

生成流网络用于离散概率建模

PDF
TL;DR本文提出了一种基于能量的生成流网络 (EB-GFN) 概率建模算法，该算法通过随机构造数据策略来建模生成过程，并将昂贵的 MCMC 探索在从 GFlowNet 中采样的固定数量的操作中分摊开来。我们展示了 GFlowNet 如何近似执行大块 Gibbs 采样以在多个模式之间混合。我们提出了一个框架，共同训练 GFlowNet 与能量函数，使 GFlowNet 学习从能量分布中采样，而能量则通过从 GFlowNet 中获得负样本的近似 MLE 目标进行学习。我们展示了 EB-GFN 在各种概率建模任务中的有效性。
energy-based generative flow networksprobabilistic modelinggenerative flow networksmcmc explorationgibbs sampling
发现论文，激发创造
  • 演化引导的生成流网络

    我们提出了一种名为进化引导生成流网络（EGFN）的方法，通过使用进化算法（EA）对一组代理参数进行训练，将得到的轨迹存储在优先级回放缓冲区中，并使用存储的轨迹训练 GFlowNets 代理，以有效地训练 GFlowNets 模型在处理长轨迹和稀疏奖励时的挑战。通过广泛的玩具和真实世界基准任务的深入研究，我们展示了我们的方法在处理长轨迹和稀疏奖励时的有效性。

    Feb, 2024

  • 探索生成流网络的泛化行为

    生成流网络（GFlowNets，GFNs）是一种生成式框架，用于学习离散空间上的非归一化概率质量函数。我们通过实证验证了 GFlowNets 的一些泛化机制假设，发现它们学习逼近的函数具有隐含的结构，有利于泛化。同时，我们还发现 GFlowNets 对离线和离策略训练非常敏感，但是 GFlowNets 隐含学习到的奖励对训练分布的变化具有鲁棒性。

    Feb, 2024

  • 基于能量的 GFlowNets 一致性训练用于建模离散联合分布

    本研究基于联合能量模型，提出了一个名为 JEBGFNs 的模型，用于生成多个变量的离散对象。通过对抗性奖励，结合 GFlowNet 模型训练参数，此模型在生成抗菌肽方面的性能得到了显著改善，并在发现抗菌肽的主动学习设置中得到了评估。

    Nov, 2022

  • 随机环境下的预期流网络与两人零和游戏

    生成流网络（GFlowNets）在多个结构化对象生成任务中取得成功，并扩展到包括蛋白质设计在内的随机环境，提出了预期流网络（EFlowNets）和对抗性流网络（AFlowNets）分别用于两人零和游戏，表明后者在 Connect 4 比赛中通过自对弈发现超过 80% 的最优移动，并超越 AlphaZero。

    Oct, 2023

  • 分叉生成流网络

    生成流网络（GFlowNets）是一种有前景的概率抽样框架，目前出现了一种新的家族。然而，现有的 GFlowNets 由于边缘流的直接参数化或依赖于可能难以扩展到大型操作空间的反向策略，往往导致数据效率较低。本文介绍了一种称为 Bifurcated GFlowNets（BN）的新方法，该方法采用分岔结构设计，将流程分解成状态流程和基于边缘的流程分配的独立表示。此分解使得 BN 能够更有效地从数据中学习，并更好地处理大规模问题，同时保持收敛保证。通过在标准评估基准上进行了大量实验，我们证明 BN 相对于强基准模型显著提高了学习效率和效果。

    Jun, 2024

  • 学习能量分解用于 GFlowNets 的部分推理

    通过提出的 LED-GFN 模型，该研究论文在五个问题中对生成流网络进行了实证验证，包括无结构和最大独立集的生成，分子图以及 RNA 序列。

    Oct, 2023

  • 生成流网络的贝叶斯结构学习

    本研究提出了一种称为 DAG-GFlowNet 的方法，使用 Generative Flow Networks 代替 MCMC 来近似推断 Bayesian 网络结构的后验分布。实验结果表明，DAG-GFlowNet 能够提供准确的 DAG 后验近似，并且相对于 MCMC 或变分推断等方法具有优势。

    Feb, 2022

  • 基于流网络的生成模型用于非迭代多样候选生成

    本文提出了一种基于 GFlowNet 的生成策略来生成对象的方法，该方法将生成过程视为一种流动网络，并将一组轨迹转换为流动，并将流动一致性方程转换为学习目标，以实现训练时的搜索成本，从而提高了性能和多样性。

    Jun, 2021

  • GFlowNets 与更多模型的统一生成模型

    探讨了深度生成模型和 GFlowNet 框架之间的关系，从 Markovian 规划的角度提供了训练和推理算法统一的方式，并给出了实践验证的优化建议。

    Sep, 2022

  • 生成流网络：马尔可夫链角度

    本文对 Generative Flow Networks 进行了形式化，并将其视为循环马尔科夫链状态空间下采样的一种方法，这一方法可以在不使用流动的情况下模拟复杂的多模态概率分布函数。

    Jul, 2023