本研究分析了 Wang-Landau 算法的收敛特性及其相关的中心极限定理，该自适应重要性采样策略在固定反应坐标自由能作为偏差时非常有助于提高马尔可夫链蒙特卡罗算法的采样特性。

Jul, 2012

本论文提出了一种称为轮廓随机梯度 Langevin 动力学（CSGLD）的自适应加权随机梯度 Langevin 动力学算法，用于 Bayesian 学习在大数据的统计学中。该算法在多模态分布的模拟中具有很大的优势，并测试了 CIFAR10 和 CIFAR100 的性能。

Oct, 2020

本文介绍了一种新的生成模型，利用评分匹配来估计数据分布的梯度，通过 Langevin 动力学生成样本。我们的框架使得模型架构更加灵活，无需在训练期间进行抽样或使用对抗性方法，提供了可用于基于原则的模型比较的学习目标。在 MNIST、CelebA 和 CIFAR-10 数据集上，我们的模型产生的样本与 GAN 相当，实现了 CIFAR-10 inception 得分的新的最先进水平为 8.87。此外，我们通过图像修补实验证明了我们的模型学习到了有效的表示。

Jul, 2019

基于模型的过参数化性质和损失函数的平滑性，我们提出了一种名为 “GradSamp” 的方法，通过从高斯分布中采样梯度更新，以高效计算深度学习模型的梯度，从而减少反向传播过程中的能量开销。我们的实验结果验证了 “GradSamp” 在不损失性能的情况下，显著提高了能量效率，并表明其在实际深度学习应用中的多样性和潜在影响。

Jun, 2024

使用神经网络构建的两种采样器，通过训练最小化 Stein discrepancy 的方法，针对非标准化密度函数生成高质量的样本，相对传统采样方法具有更优的收敛性能。

Oct, 2018

在机器学习中，使用贝叶斯后验概率分布作为模型参数可以避免过度拟合，Stochastic gradient Langevin dynamics (SGLD) 是一种近似贝叶斯后验概率分布的算法，使用易于计算的 Fisher 矩阵近似，使用 Fisher 矩阵预处理可以用于大型神经网络中，并将 SGLD 与 dropout 类似的正则化技术相结合以减少过拟合。

Dec, 2017

通过构建一个神经网络，我们从一个简单的参考分布（如标准正态分布）映射到目标分布的样本，从而从目标分布中采样。通过 Langevin Monte Carlo 算法，我们提出了一个神经网络架构， 并在 Wasserstein-2 距离下的光滑、对数凹目标分布的逼近速率进行了分析，其中分析主要依赖于扰动的中间测量的次高斯性质，并在不同假设下导出了中间方差代理的增长上界，同时我们还提出了一种类似于深度残差神经网络的架构，并推导了用于逼近样本到目标分布映射的表达能力结果。

Nov, 2023

本文提出了一种将采样方差优化视为对手赌博问题，以加速图卷积网络和图注意力网络等图神经网络的训练的方法，并在多个数据集上展示了其有效性和高效性。

Jun, 2020

我们提出了一种高性能的通用梯度引导嵌套采样算法 ${t GGNS}$，将可微编程、Hamiltonian 切片采样、聚类、模式分离、动态嵌套采样和并行化的最新技术结合在一起。这种独特组合使 ${t GGNS}$ 在维度上具有良好的可伸缩性，并且在各种合成和实际问题上具有竞争力。我们还展示了将嵌套采样与生成流网络结合起来，以从后验分布中获得大量高质量样本的潜力。这种组合可以加快模式发现，并更准确地估计分区函数。

Dec, 2023

我们引入了一种概率分布和高效的采样算法来处理神经网络中的权重和偏差参数，通过玩具模型和实际数据集的实验，证明了我们构造的采样网络是普适逼近器，并且采样框架对于输入数据的缩放和旋转是不变的，这意味着许多流行的预处理技术不再需要。

Jun, 2023