随机特征斯坦差异
本研究基于 Reproducing Kernel 和 Stein method 提出了一种新型的无偏采样方法,通过比较概率分布的差异来衡量采样结果的表现,并在一些目标分布中证明其收敛性和优越性。
Mar, 2017
通过在大规模场景中应用 Nyström-based KSD 加速方法,本研究提出了一种基于核方法的新的好拟合测试方法,并在一系列基准测试中展示了其适用性。
Jun, 2024
本文提出了一种统一的视角来描述和设计基于最小 Stein 距离的估计器,并使用这种方法来设计新的扩散核 Stein 距离(DKSD)和扩散分数匹配(DSM)估计器,证明了它们的一致性、渐近正常性和鲁棒性,并为它们的高效优化推导了随机黎曼梯度下降算法。该方法的主要优势在于其灵活性,使我们能够通过仔细选择 Stein 距离来为特定的模型设计具有理想性质的估计器,并在一些具有挑战性的问题上进行了演示,例如光滑、重尾或轻尾密度的分数匹配。
Jun, 2019
为了提高 Monte Carlo 估计的效率,研究者们正转向有偏的马尔可夫链蒙特卡罗过程,通过权衡渐近精确度和计算速度来实现。本文引入一种基于 Stein's 方法的可计算质量度量来解决这些配合中不精确性带来的新挑战,并将其应用于超参数选择、收敛速率评估和后验推断中,比较精确、有偏和确定性样本序列,并量化样本和目标期望之间的最大偏差。
Jun, 2015
提出了基于切片的 Stein discrepancy 和其可扩展和带核变体,这些变体采用基于核的测试函数,定义在最佳一维投影上,用于拟合优度检验和模型学习。在高维度下的拟合优度检验以及基于不同差异训练独立分量分析模型的结果表明,所提出的差异在性能上明显优于 KSD 和其他基准。此外,进一步提出了一种名为 sliced Stein 变分梯度下降(S-SVGD)的粒子推断方法,该方法可以缓解 SVGD 在训练变分自动编码器时的模式塌陷问题。
Jun, 2020
本文发展了基于 Ito 扩散的新型特征算子,针对任何具有快速耦合 Ito 扩散的目标,开发了明确的多元 Stein 因子边界,并应用于多个实际应用中,从而通过质量度量来选择超参数,比较随机和确定性的积分规则,并量化近似 MCMC 中的偏差 - 方差权衡。
Nov, 2016
提出一种 KSD 检验的改进方法,通过使用 Markov 转移核函数对样本进行扰动,保证目标分布不变,从而获得比 KSD 检验更高的检验能力。
Apr, 2023
本文提出了一种新的差异度量统计量,该统计量基于 Stein 的恒等式和再生核希尔伯特空间理论相结合。我们将其应用于测试概率模型与观测值的拟合程度,并派生了一类新的强大的适用于复杂和高维分布的拟合优度检验,即使对于具有计算难度的常数归一化分布亦如此。我们全面研究了方法的理论和实证特性。
Feb, 2016
该研究论文探讨了一种基于 Stein Points 的方法,重点在于实现在点的选择方面很小的情况下实现准确的近似。使用贪婪或条件梯度法减小内核 Stein 差异,该方法能够以适度的计算成本准确近似后验。同时,理论结果表明了方法的收敛性。
Mar, 2018