该论文探讨了基于粒子最优化的采样技术和 Stein 变分梯度下降算法的理论缺陷，提出了注入随机噪声的 SPOS 算法，并第一次为相关的 SPOS 框架（涉及 SVGD）开发了非渐近收敛理论，以粒子数和迭代次数的 1-Wasserstein 距离为特征，表征算法的收敛性。实验证明，与 SVGD 相同数量的更新次数（不太大）对于每个粒子，采用更多的粒子并不一定会更好地逼近目标分布，这种现象也被观察到并在合成数据实验中得到了验证。

Sep, 2018

本文提出一种基于Stein算子的非参数推断方法，将Stein变分梯度下降（SVGD）用于解决推断问题，挖掘出一类函数，即Stein匹配集合，从而提供了更好的内核选择方法，并可以将问题转化为拟合Stein等式或求解Stein方程。

Oct, 2018

本论文介绍了 Stein Variational Gradient Descent (SVGD) 算法的一种新视角，将 SVGD 视为卡方散度的（核化）梯度流，提出了一种基于目标密度关联的拉普拉斯算子的谱分解实现的替代方法，称为 Laplacian Adjusted Wasserstein Gradient Descent (LAWGD)，这种方法表现出强大的收敛保证和良好的实际性能。

Jun, 2020

本文研究Stein变分梯度下降算法（SVGD），该算法通过优化一组粒子来逼近目标概率分布，我们提供了该算法的新颖有限时间分析，并提供了一种下降引理以及收敛速率研究，并将有限粒子实现的SVGD与其群体版本进行了收敛结果的对比。

Jun, 2020

本文研究了Stein Variational Gradient Descent（SVGD）方法收敛过程中粒子的各向同性特性，并证明了有限粒子的SVGD无法扩展到整个样本空间，而是倾向于在一定范围内围绕粒子中心聚集；我们提出了一种改进的SVGD方法——增强式信息传递SVGD（AUMP-SVGD），该方法是一个不需要目标分布稀疏性的两阶段优化过程，能够在各种基准问题中高效地解决方差崩溃问题，实验结果表明此方法能够取得令人满意的精度。

May, 2023

通过使用正态分布初始化器逼近高斯目标样本并使用密度和基于粒子的实现方法，证明了Stein Variational Gradient Descent (SVGD) 及其变体的特性，包括线性收敛和性能优越性，这对于深入理解SVGD和Gaussian variational inference (GVI)的相关性提供了具体贡献。

May, 2023

本文提出了两种计算有效（VP-SVGD和GB-SVGD）的Stein变分梯度下降算法，它们是特定的随机批处理逼近SVG，具有证明的快速有限粒子收敛率。

May, 2023

本文中提出了一种深度展开的可训练 SVGD 算法，用于加速其收敛速度，并通过数值模拟实验证明了该算法相较于传统的 SVGD 变体具有更快的收敛速度。

Feb, 2024

本文针对斯坦变分梯度下降（SVGD）算法在核斯坦误差（KSD）和Wasserstein-2度量下的有限粒子收敛速率问题，提出了新的见解。研究表明，相对熵的时间导数可以分解为与N成正比的主要负部分及较小的正部分，从而获得收敛速率为$1/\sqrt{N}$，较之前研究显著提高。此外，该方法在维度上也有线性增长，从而进一步推动了Wasserstein-2的收敛性研究。

Sep, 2024

本研究针对现有斯坦因变分梯度下降方法在无梯度信息情况下的局限性，提出了一种将演化策略与斯坦因变分步骤相结合的新方法。这种方法能够在没有梯度信息的情况下，从未规范化的目标密度中生成高质量样本，并在多个具有挑战性的基准问题中表现出显著的性能提升。

Oct, 2024