本研究提出了一种新的随机梯度马尔可夫链蒙特卡罗方法，通过使用拟牛顿优化方法的思想考虑局部几何，并使用样本和它们的梯度的有限历史直接近似逆海森矩阵。方法使用密集逆海森近似，同时保持时间和内存复杂度与问题的维数成线性关系，我们的理论分析表明，该方法在渐近无偏和一致后验期望的同时，实现了类似于黎曼方法的快速收敛率和对角线预处理方法的低计算要求。

Feb, 2016

本论文主要研究基于非凸贝叶斯学习问题的人工智能、深度神经网络、Langevin Monte Carlo、动态重要性抽样等方面的算法和理论，包括控制变量减少噪声能量估计器方差、基于非可逆性的群链复制交换等算法及解决梯度消失问题的动态重要性抽样等，旨在提高大数据情况下的效率与稳定性。

May, 2023

本文介绍了倍增随机梯度 MCMC 这一简单通用的方法，用于在折叠的连续参数空间中对深度生成模型进行（近似）贝叶斯推理。我们的方法不仅适用于密度估计和数据生成的任务，还可以用于缺失数据的填充，且在性能方面优于许多现有的竞争对手。

Jun, 2015

通过使用生成对抗网络（GAN）模型，提出了一种新的基于随机对象模型（SOM）的基于马尔可夫链蒙特卡罗（MCMC）的理想观察者（IO）方法，扩展了 IO 评估的适用领域，从而在医学图像系统的 IO 分析方面发挥了重要作用。

Apr, 2023

本文提出了一种使用欠阻尼 langevin 动力学的 Moreau-Yosida 近似的新实现方法，以及使用分段确定马尔可夫过程（PDMP）进行准确后验推断的方法。这两种采样方法使用范围更广泛，具有更好的采样精度。

Mar, 2021

本研究使用随机梯度哈密尔顿蒙特卡洛方法对深层高斯过程模型的非高斯后验分布抽样，提供了一种新的推断方法，成为 Deep Gaussian Processes 领域新的最优模型。

Jun, 2018

该研究提出了一种可训练的基于采样的求解器用于组合优化问题，使用一种称为深展开的深度学习技术。该求解器基于 Ohzeki 方法，结合了马尔可夫链蒙特卡洛（MCMC）和梯度下降，并通过最小化损失函数来训练其步长。在训练过程中，我们提出了一种基于采样的梯度估计，用方差估计代替自动微分，从而避免了由于 MCMC 的不可微分性导致的反向传播失败。对于几个组合优化问题的数值结果表明，与原始的 Ohzeki 方法相比，所提出的求解器显著加速了收敛速度。

Feb, 2024

本文提出一种基于条件独立性检验的后验逼近方法，用于学习贝叶斯网络。相比于先前的基于顺序 MCMC 的方法，该方法能够实现更佳的精度、可伸缩性和混合采样效果，同时允许使用更多自然的结构先验并消除了对最大入度的时间依赖性。

Mar, 2018

我们提出了几何信息神经算子（GINO），一种高效的方法，用于学习具有不同几何形态的大规模偏微分方程的解算器。该算子基于图和傅里叶结构，使用输入形状的有符号距离函数和点云表示来学习解算器。用于验证 GINO 方法在大规模模拟上的性能，我们生成了 3D 车辆几何形态的工业标准空气动力学数据集，雷诺数高达五百万。在这个大规模 3D 流体模拟中，传统数值方法计算表面压力的成本很高。我们成功地训练 GINO 仅使用五百个数据点来预测车身表面的压力。在成本 - 准确性实验中，与优化后的基于 GPU 的计算流体动力学（CFD）模拟器相比，GINO 的计算阻力系数速度提高了 26000 倍。在测试新的几何形态和边界条件（入口速度）组合时，GINO 相对于深度神经网络方法的误差率降低了四分之一。

Sep, 2023

基于随机梯度马尔可夫链蒙特卡洛 (SG-MCMC) 的可伸缩贝叶斯因果关系发现框架，无需任何有向无环图 (DAG) 正则化约束，直接从后验中采样有向无环图 (DAG)，同时绘制函数参数样本，适用于线性和非线性因果模型。基于合法的等价关系，我们首次应用基于梯度的 MCMC 采样用于因果关系发现。通过对合成数据集和真实世界数据集的实证评估，展示了我们方法与最先进基准模型的有效性。

Jul, 2023