Oct, 2023

扩散生成流采样器：通过部分轨迹优化改善学习信号

PDF
TL;DR我们提出了一种基于扩散生成流采样器 (DGFS) 的抽样框架，该方法可以将学习过程易于处理地分解为短的部分轨迹段，通过参数化额外的 “流函数”，并且在各种具有挑战性的实验中展示了相比于相关先前方法更准确的规范常量估计。
samplingdensity functionsstochastic processesflow functiongenerative flow networks
发现论文，激发创造
  • 通过判别器梯度流完善深度生成模型

    通过熵正则化的 f - 散度梯度流技术，可以提高生成数据的质量，避免了浪费的样本拒绝，可以应用于各种生成系统，并取得了显著的效果优于 DOT 和 DDLS 方法。

    Dec, 2020

  • 通过扩散生成模型学习近似粒子平滑轨迹

    从稀疏观测数据中学习动力系统是许多领域（包括生物学、金融学和物理学）的一个关键问题。这篇论文介绍了一种将条件粒子滤波与祖先采样和扩散模型相结合的方法，能够生成与观测数据相符合的逼真轨迹。该方法基于迭代条件粒子滤波与祖先采样生成匹配观测边缘概率的合理轨迹，并学习相应的扩散模型。该方法既为复杂约束下高质量、平滑的轨迹提供了一种生成方法，又有效近似了粒子平滑分布在经典跟踪问题中。我们在时间序列生成和插值任务上展示了该方法，包括车辆追踪和单细胞 RNA 测序数据。

    Jun, 2024

  • Thompson 采样在 GFlowNets 中的应用提高探索性能

    本文提出了一种基于多臂赌博机思想的贝叶斯技术算法（TS-GFN），将训练过程中的轨迹选择视为主动学习问题，从学习策略的近似后验分布中采样轨迹来提高探索效率，进而比过去的离线探索策略更快地收敛至目标分布，在两个领域的实验中证明了其优越性。

    Jun, 2023

  • DiffFlow：基于评分扩散模型和生成对抗网络的统一 SDE 框架

    建议了一个统一理论框架，将基于得分的扩散模型和生成对抗网络合并起来，提出了一个名为 “鉴别器去噪扩散流” 的新 SDE，通过调整不同得分项之间的相对权重，可以在 SDMs 和 GANs 之间实现平滑转换，同时保持边际分布不变，提供了新的算法，并具有在高样本质量和快速采样速度之间实现灵活权衡的潜力。

    Jul, 2023

  • 扩散生成多保真学习与物理模拟

    基于随机微分方程的扩散生成多保真度（DGMF）学习方法通过连续去噪过程生成解决方案输出，同时利用条件分数模型控制解决方案的生成，可有效学习和预测多维解决方案数组，将离散和连续保真度建模统一，展示了多保真度学习的有希望的新方向。

    Nov, 2023

  • 基于流网络的生成模型用于非迭代多样候选生成

    本文提出了一种基于 GFlowNet 的生成策略来生成对象的方法，该方法将生成过程视为一种流动网络，并将一组轨迹转换为流动，并将流动一致性方程转换为学习目标，以实现训练时的搜索成本，从而提高了性能和多样性。

    Jun, 2021

  • 扩散模型辅助监督学习用于密度估计的生成模型

    基于得分扩散模型的监督式学习框架用于训练生成模型，并通过生成标记数据解决了无监督训练中的问题，提高了采样效率和神经网络训练的时间节省。

    Oct, 2023

  • 基于生成流网络的无集体变量转移路径采样

    通过生成流网络，我们的 TPS-GFN 方法在不依赖 CV 的情况下通过分子轨迹进行能量感知抽样，从而产生比之前的不依赖 CV 的机器学习方法更真实和多样化的转变路径。

    May, 2024

  • 探究与改进 GFlowNet 的训练

    本文介绍了基于 GFlowNets 算法的生成模型策略，探究了如何在实际训练资源限制下实现更好的样本效率和匹配目标分布，提出了优先回放、相对边流策略参数化和新的引导轨迹平衡目标等方法来提高样本效率，有效解决了一些结构学分配问题。

    May, 2023

  • 使用扩散图进行稳定的生成建模

    我们提出了一个结合扩散映射和兰格朗日动力学的生成模型，通过扩散映射近似训练样本的漂移项，并在离散时间的兰格朗日采样器中实现，以生成新样本。通过设置核带宽与未调整的兰格朗日算法中使用的时间步长相匹配，我们的方法有效地解决了通常与时间步长严重随机微分方程相关的稳定性问题。我们的框架可自然地扩展到生成条件样本。通过对合成数据集和随机子网格尺度参数化条件采样问题进行实验，我们验证了我们提出的方案的性能。

    Jan, 2024