本文针对大数据分析，提出了一种基于Wasserstein梯度流的粒子优化框架，用于统一随机梯度MCMC和Stein变分梯度下降算法，并能够更有效地解决概率测度空间上的挑战。实验结果表明，该框架能够提高贝叶斯抽样的效率和可伸缩性。

May, 2018

本文提出一种基于Stein算子的非参数推断方法，将Stein变分梯度下降（SVGD）用于解决推断问题，挖掘出一类函数，即Stein匹配集合，从而提供了更好的内核选择方法，并可以将问题转化为拟合Stein等式或求解Stein方程。

Oct, 2018

本文研究Stein变分梯度下降算法（SVGD），该算法通过优化一组粒子来逼近目标概率分布，我们提供了该算法的新颖有限时间分析，并提供了一种下降引理以及收敛速率研究，并将有限粒子实现的SVGD与其群体版本进行了收敛结果的对比。

Jun, 2020

本研究提出了一种名为Grassmann Stein变分梯度下降 (GSVGD) 的新概念，用于处理维度高的目标分布问题，具备在高维空间中探索低维结构等特性。GSVGD方法与其他变体方法相比，更新打分函数和数据的投影器并通过一种耦合的Grassmann值扩散进程确定最优投影器。理论和实验结果表明，GSVGD在高维问题中具有高效的状态空间探索能力。

Feb, 2022

我们提出了一种名为Stochastic Multiple Target Sampling Gradient Descent (MT-SGD)的方法，用于从多个未归一化的目标分布中进行采样。通过逐渐调整中间分布的流向多个目标分布，使采样粒子向目标分布的联合高似然区域移动，此方法在多目标优化问题上获得了良好的表现。

Jun, 2022

本文研究了Stein Variational Gradient Descent（SVGD）方法收敛过程中粒子的各向同性特性，并证明了有限粒子的SVGD无法扩展到整个样本空间，而是倾向于在一定范围内围绕粒子中心聚集；我们提出了一种改进的SVGD方法——增强式信息传递SVGD（AUMP-SVGD），该方法是一个不需要目标分布稀疏性的两阶段优化过程，能够在各种基准问题中高效地解决方差崩溃问题，实验结果表明此方法能够取得令人满意的精度。

May, 2023

通过使用正态分布初始化器逼近高斯目标样本并使用密度和基于粒子的实现方法，证明了Stein Variational Gradient Descent (SVGD) 及其变体的特性，包括线性收敛和性能优越性，这对于深入理解SVGD和Gaussian variational inference (GVI)的相关性提供了具体贡献。

May, 2023

本文提出了两种计算有效（VP-SVGD和GB-SVGD）的Stein变分梯度下降算法，它们是特定的随机批处理逼近SVG，具有证明的快速有限粒子收敛率。

May, 2023

Stein变分梯度下降(SVGD)是一种广泛应用于机器学习领域的采样算法, 通过迭代地移动一组相互作用的粒子(代表样本)来逼近目标分布,我们研究了噪声SVGD的长期渐进行为,并证明其极限集是良定义的,且该极限集随着粒子数目的增加逼近目标分布,特别是噪声SVGD可避免SVGD中观察到的方差崩溃现象,我们的方法涉及证明噪声SVGD的轨迹与McKean-Vlasov过程的轨迹密切相似。

Jun, 2024

本文针对斯坦变分梯度下降（SVGD）算法在核斯坦误差（KSD）和Wasserstein-2度量下的有限粒子收敛速率问题，提出了新的见解。研究表明，相对熵的时间导数可以分解为与N成正比的主要负部分及较小的正部分，从而获得收敛速率为$1/\sqrt{N}$，较之前研究显著提高。此外，该方法在维度上也有线性增长，从而进一步推动了Wasserstein-2的收敛性研究。

Sep, 2024