Jan, 2023

不偏袒：扩散模型的少数族裔指导

PDF
TL;DR本论文探讨用扩散模型生成少数族裔样本的问题，提出了一种新的框架来引导扩散模型的生成过程，侧重于生成低密度区域上的少数族裔样本。实验结果表明，与标准扩散采样器相比，我们的少数族裔引导技术可以极大地提高生成低概率少数族裔样本的能力。
发现论文，激发创造
  • 扩散模型中的流形导向采样用于无偏图像生成

    本文提出了一种通过使用流形引导来减轻扩散模型中数据偏置的方法，该方法可以在不改变模型架构或需要标签或重新训练的情况下，改善生成图像的品质和无偏性。

    Jul, 2023

  • 使用扩散模型从低密度区域生成高保真数据

    我们使用扩散过程生成模型解决了常见图像数据集中低密度区域的样本稀缺问题，通过修改采样过程使其指向低密度区域并同时保持合成数据的逼真度，经过严谨的验证，我们的方法成功地生成了低密度区域的新的高保真度样本。

    Mar, 2022

  • 粒子导引：非独立同分布的多样抽样与扩散模型

    通过提出一种名为 “粒子引导” 的扩展扩散式生成抽样方法，我们在研究中探索了如何提高生成模型的多样性和采样效率，并通过在条件图像生成和分子构象生成中的实证测试，展示了这一方法的价值。

    Oct, 2023

  • 物理相关扩散模型

    通过在模型训练过程中加入约束条件使其生成的样本更符合所施加的约束，从而提高生成样本与约束的一致性，且相较于现有方法有更好的性能且不影响推断速度；该方法还可以自然地防止过拟合。

    Mar, 2024

  • 扩散引导的理论洞察：高斯混合模型案例研究

    在高斯混合模型的背景下，我们的研究首次对扩散模型中引导信息对其性能的影响进行了理论研究，证明了引入扩散引导不仅提高了分类的置信度，还减少了分布的多样性，导致输出分布的微分熵的降低。我们的分析涵盖了广泛采用的采样方案，包括 DDPM 和 DDIM，利用了微分方程的比较不等式以及描述概率密度函数演化的 Fokker-Planck 方程，这也可能具有独立的理论兴趣。

    Mar, 2024

  • 应对非均衡分类中的多元少数群体

    通过迭代数据混合的马尔科夫决策过程（MDP）来解决不平衡数据集的问题，并通过使用数据扩充策略训练一个数据扩充策略并设计一种奖励信号，探索分类器的不确定性并鼓励性能提升，不考虑分类器的收敛，从而展示了解决具有不同类别少数样本的不平衡数据集的潜力和前景。

    Aug, 2023

  • 基于约束采样优化的扩散模型

    我们提出了使用扩散模型在数据流形上进行优化的方法，以解决具有未知约束的实际优化问题。通过在 Boltzmann 分布和扩散模型学习的数据分布之间进行采样，我们将原始优化问题转化为采样问题，以限制优化过程在数据流形上进行。通过在初始阶段聚焦在可行解上获得分布，我们的方法在综合实验中展现了与现有的最先进基准方法相当或更好的性能。

    Feb, 2024

  • 生成式扩散模型的理论研究综述

    生成扩散模型的理论发展主要分为两种方法，基于训练和基于采样，将这些方法明确分类为研究者未来进行新发展提供清晰可理解的方向。

    Apr, 2024

  • 去噪扩散模型和抽样器的表达能力注记

    本论文探讨将随机控制方法运用于泛化的去噪扩散模型及样本生成中，并尝试将现有的神经网络近似方法应用于去噪扩散模型及样本生成中。

    May, 2023

  • 数据驱动的黑箱优化扩散模型

    基于扩散模型的条件采样方法，在黑盒优化中生成接近最佳解且保留设计的潜在结构，通过建立理论模型和进行实验验证，证明了奖励导向扩散模型在黑盒优化中的效率和准确性。

    Mar, 2024