本文提出了两种分布式 Stein 变分梯度下降（DSVGD）选择方案，基于核化 Stein 差异度和希尔伯特内积，以提高模型收敛速度和通信效率。通过在各种学习任务和数据集上进行评估和比较，证明了这些方案在模型准确性、收敛速度和稳定性方面的优点。

Dec, 2022

本文提出了一种基于神经网络的参数化证见函数的改进 Stein 变分梯度下降方法，旨在解决传统 Stein 变分梯度下降中选择核函数的难题，经实验证明该方法在合成推理问题、贝叶斯线性回归和贝叶斯神经网络推理问题中有效可行。

Jul, 2021

本文提出了用于优化的通用变分推理算法，它是梯度下降法的一种自然补充，可以通过一种函数梯度下降来最小化 KL 距离，从而迭代地传输一组粒子以匹配目标分布。经过在各种真实世界模型和数据集上的实证研究，我们的方法与现有的最先进的方法相竞争。我们方法的推导基于一个新的理论结果，它连接了平滑转换下 KL 距离的导数与 Stein's 恒等式以及最近提出的核化的 Stein 距离，这也具有独立的兴趣。

Aug, 2016

本研究研究了使用不同的 Stein 变分梯度下降方法来解决深度神经网络的 Bayesian 框架的问题，通过改善功能多样性和不确定性估计，逼近真实的 Bayesian 后验，并展示使用随机 SVGD 更新可以进一步改善性能。

Jun, 2021

本研究提出了一种名为 Grassmann Stein 变分梯度下降 (GSVGD) 的新概念，用于处理维度高的目标分布问题，具备在高维空间中探索低维结构等特性。GSVGD 方法与其他变体方法相比，更新打分函数和数据的投影器并通过一种耦合的 Grassmann 值扩散进程确定最优投影器。理论和实验结果表明，GSVGD 在高维问题中具有高效的状态空间探索能力。

Feb, 2022

该研究提出了一种将离散分布转换为等效分段连续分布的方法，然后使用无梯度的 SVGD 进行高效的近似推理，并证明了该方法在离散图形模型的各种测试中优于传统的算法，同时优于其他广泛使用的集成方法，特别是在学习 CIFAR-10 数据集上的二值化 AlexNet 的情况下。

Mar, 2020

本文研究 Stein 变分梯度下降算法（SVGD），该算法通过优化一组粒子来逼近目标概率分布，我们提供了该算法的新颖有限时间分析，并提供了一种下降引理以及收敛速率研究，并将有限粒子实现的 SVGD 与其群体版本进行了收敛结果的对比。

Jun, 2020

通过使用正态分布初始化器逼近高斯目标样本并使用密度和基于粒子的实现方法，证明了 Stein Variational Gradient Descent (SVGD) 及其变体的特性，包括线性收敛和性能优越性，这对于深入理解 SVGD 和 Gaussian variational inference (GVI) 的相关性提供了具体贡献。

May, 2023

本文提出了基于贝叶斯推断的层次生成模型和 FedVI 算法，该算法通过变分推断训练模型并结合 PAC-Bayes 分析提供了更好的泛化性能。作者还在 FEMNIST 和 CIFAR-100 数据集上进行了实验验证，结果显示 FedVI 在图像分类任务上的表现超过了现有算法。

May, 2023

通过我们提出的基于条件独立结构的概率图模型的消息传递 SVMG 方法 (简称 MP-SVGD) 使其在高维空间中具有更强的排斥力，从而提高了粒子效率和逼近灵活性，解决了 SVGD 中粒子落入概率密度函数模态和丧失排斥力的问题。

Nov, 2017