我们提出了离散 Langevin proposal (DLP) 算法，这是一种针对复杂高维离散分布的简单且可扩展的基于梯度的采样算法，相比于基于 Gibbs 采样的方法，DLP 可以同时并行地更新所有坐标，通过步长控制变化的大小，使在高维空间中强相关变量之间的探索更加廉价和高效，在测试中证明了 DLP 的有效性。

Jun, 2022

本文提出了一种用于无偏区别 Metropolis-Hastings 采样器的方法，使得我们能够通过概率推理进行不可行目标密度的优化，该方法通过融合随机区分的最新进展和马尔可夫链耦合方案，可以使该过程无偏、低方差和自动化，然后将其应用于期望为不可行目标密度的优化中。在文中所提出的方法中，分别应用到高斯混合模型中找到不明显的观察和 Ising 模型中的特定热容的最大化。

Jun, 2023

通过改进基于梯度的采样算法，实现对目标基于能量的文本分布的正确采样，以生成流畅的文本并更好地满足控制目标。

Dec, 2023

基于模型的过参数化性质和损失函数的平滑性，我们提出了一种名为 “GradSamp” 的方法，通过从高斯分布中采样梯度更新，以高效计算深度学习模型的梯度，从而减少反向传播过程中的能量开销。我们的实验结果验证了 “GradSamp” 在不损失性能的情况下，显著提高了能量效率，并表明其在实际深度学习应用中的多样性和潜在影响。

Jun, 2024

本文介绍了一种新的生成模型，利用评分匹配来估计数据分布的梯度，通过 Langevin 动力学生成样本。我们的框架使得模型架构更加灵活，无需在训练期间进行抽样或使用对抗性方法，提供了可用于基于原则的模型比较的学习目标。在 MNIST、CelebA 和 CIFAR-10 数据集上，我们的模型产生的样本与 GAN 相当，实现了 CIFAR-10 inception 得分的新的最先进水平为 8.87。此外，我们通过图像修补实验证明了我们的模型学习到了有效的表示。

Jul, 2019

本文提出了一种基于无重复抽样的离散随机变量期望无偏估计方法，将其与 REINFORCE 算法相结合，得到了具有内置控制变量的策略梯度估计器，并应用于多种任务得到了良好的效果。

Feb, 2020

本研究提出了一种新方法，使得基于接受拒绝采样算法的随机变量也可以使用再参数化技巧，这种方法可以扩展再参数化技巧的适用范围，且实验表明该方法可以获得比其他现有技术更低的梯度估计方差，从而实现更快的随机梯度变分推断收敛。

Oct, 2016

本文针对大数据分析，提出了一种基于 Wasserstein 梯度流的粒子优化框架，用于统一随机梯度 MCMC 和 Stein 变分梯度下降算法，并能够更有效地解决概率测度空间上的挑战。实验结果表明，该框架能够提高贝叶斯抽样的效率和可伸缩性。

May, 2018

研究了随机梯度 HMC，提出了一种使用带有摩擦项的二阶 Langevin 动力学的变体，以消除噪声梯度的影响，并使用该方法在神经网络和在线贝叶斯矩阵分解任务中验证了其有效性。

Feb, 2014

本文提出了一种采用拒绝抽样方法来舍弃具有低似然的变分后验采样的方法，并使用一种新的梯度估计器，以 MNIST 数据集为例，在估计边际对数似然时，相对于现有的基于单样本和多样本的方法，可以平均提高 3.71 个 nats 和 0.21 个 nats 的准确性。

Apr, 2018