ICMLMay, 2021

通过 Langevin 动力学从自回归模型中进行并行灵活采样

PDF
TL;DR这篇论文介绍了一种新的从自回归模型中采样的方法，提出了使用 Langevin 动力学构建马尔可夫链的方法，将采样过程并行化，并推广到有条件采样。通过将自回归模型作为贝叶斯先验，并使用条件似然或限制，我们可以控制生成模型的输出，应用这些技术于视觉和音频领域的自回归模型，获得了在声源分离、超分辨与修复等任务上有竞争力的结果。
autoregressive modelssamplingmarkov chaingenerative modelvisual and audio domains
发现论文，激发创造
  • 流动中的采样：扩散与自回归神经网络的自旋玻璃视角

    利用流水、扩散或自回归神经网络等生成模型进行的抽样分析工作，发现在某些参数范围内，这些方法可能无法高效抽样，而标准的 Monte Carlo 或 Langevin 方法则可行。然而，在其他参数范围内，这些生成模型的方法效果更好，而标准方法却低效。

    Aug, 2023

  • 使用扩散图进行稳定的生成建模

    我们提出了一个结合扩散映射和兰格朗日动力学的生成模型，通过扩散映射近似训练样本的漂移项，并在离散时间的兰格朗日采样器中实现，以生成新样本。通过设置核带宽与未调整的兰格朗日算法中使用的时间步长相匹配，我们的方法有效地解决了通常与时间步长严重随机微分方程相关的稳定性问题。我们的框架可自然地扩展到生成条件样本。通过对合成数据集和随机子网格尺度参数化条件采样问题进行实验，我们验证了我们提出的方案的性能。

    Jan, 2024

  • 通过估计数据分布梯度的方式进行生成建模

    本文介绍了一种新的生成模型，利用评分匹配来估计数据分布的梯度，通过 Langevin 动力学生成样本。我们的框架使得模型架构更加灵活，无需在训练期间进行抽样或使用对抗性方法，提供了可用于基于原则的模型比较的学习目标。在 MNIST、CelebA 和 CIFAR-10 数据集上，我们的模型产生的样本与 GAN 相当，实现了 CIFAR-10 inception 得分的新的最先进水平为 8.87。此外，我们通过图像修补实验证明了我们的模型学习到了有效的表示。

    Jul, 2019

  • 自回归模型的有序自编码任意采样

    提出了一种新的自回归模型家族，它结合了主成分分析的灵感，允许任何时间进行采样，并将维度有序地组织到一个结构化表示空间中。实验证明，这种方法在减少计算预算的同时，样本质量可以逐渐降低，同时在图像数据中使用仅 60％到 80％的所有潜在维度，几乎没有样本质量损失（通过 FID 度量）。

    Feb, 2021

  • 用朗之万动力学进行预测编码采样

    我们提出了一种新颖的算法，用于在通用深度生成模型中学习参数，该算法基于计算神经科学的预测编码 (PC) 框架。通过将高斯噪声注入 PC 推理过程，我们重新构想它作为过阻尼 Langevin 采样，从而实现对紧密证据下界 (ELBO) 的优化。我们通过将编码器网络纳入到我们的 Langevin 采样中，提供一个得到温和起步的改进的编码器自由训练方法，并测试了三种不同的目标。最后，为了增加对采样步长的鲁棒性，并减少对曲率的敏感性，我们验证了一种轻量级且易于计算的预条件形式，受到 Riemann 流形 Langevin 和 SGD 文献中的自适应优化器的启发。我们通过使用我们的技术和使用标准重参数化技巧的 ELBO 训练的模型进行训练，在许多指标上观察到我们的方法优于或与其性能相匹配，并且收敛迭代次数仅为其一部分。

    Nov, 2023

  • 基于预测自回归模型的预测采样

    本论文提出了一种预测采样算法，利用 ARMs 的快速推断能力加速采样，证明其在二元 MNIST 等设置下可显著提高推断调用次数和采样速度。

    Feb, 2020

  • 扩散模型并行采样的加速

    通过并行化自回归过程，我们提出了一种用于加速扩散模型采样的新方法，称之为 ParaTAA。在实验证明 ParaTAA 可以将 DDIM 和 DDPM 等常见顺序采样算法的推理步骤减少 4~14 倍，并且可以在仅 7 个推理步骤中，以与顺序采样完全相同的方式生成图像。

    Feb, 2024

  • 通过 Langevin 动力学与对抗训练实现强化学习的鲁棒性

    本研究基于随机梯度 langevin 动力学引入了一种采样视角来训练机器人学习代理，构建了一种新型、可扩展的两个玩家机器人学习算法，并在多个 MuJoCo 环境中证明了该算法相对于传统机器人学习算法更具有一般化能力。

    Feb, 2020

  • 关于概率序列模型的高效边缘化

    使用自回归模型回答超出单步预测的复杂概率查询，包括未来事件的时机和特定事件在另一事件发生之前的可能性。通过开发一类宽泛的、高效的近似技术，对顺序模型中的边缘化进行建模。这些技术仅依赖于对预先训练的自回归模型的下一步条件分布的访问和采样，包括传统参数模型和最近的神经自回归模型。针对离散顺序模型、标记的时间点过程和随机跳跃过程，提出了具体的方法，每个方法都适用于一类明确定义的信息丰富、长程概率查询。

    Mar, 2024

  • 去噪正则化：贝叶斯模型与拉普拉斯 - 吉布斯采样

    该论文介绍了一种贝叶斯框架图像反演方法，通过导出一种与正则化去噪（RED）范式相对应的概率模型实现。同时，还实现了一种针对得到的后验分布进行采样的蒙特卡罗算法，其基于渐近精确的数据增广（AXDA）。该算法是分裂吉布斯采样（SGS）的近似实例，嵌入了一个 Langevin 蒙特卡罗步骤。该方法被应用于常见的图像处理任务，如去模糊、修复和超分辨，通过广泛的数值实验证明了其有效性。这些贡献通过在概率框架内利用数据驱动的正则化策略推进了图像处理中的贝叶斯推断。

    Feb, 2024