用核函数衡量样本质量
提出了一种新的质量度量方法 - 特征 Stein 差异度量(PhiSD),可通过重要抽样方法进行便宜的近线性逼近,适用于近似后验推断和适配度检验。在实验证明,在速度方面比平方时间差异度量 (KSD) 更快,可在计算中进行价值代替。
Jun, 2018
为了提高 Monte Carlo 估计的效率,研究者们正转向有偏的马尔可夫链蒙特卡罗过程,通过权衡渐近精确度和计算速度来实现。本文引入一种基于 Stein's 方法的可计算质量度量来解决这些配合中不精确性带来的新挑战,并将其应用于超参数选择、收敛速率评估和后验推断中,比较精确、有偏和确定性样本序列,并量化样本和目标期望之间的最大偏差。
Jun, 2015
提出一种 KSD 检验的改进方法,通过使用 Markov 转移核函数对样本进行扰动,保证目标分布不变,从而获得比 KSD 检验更高的检验能力。
Apr, 2023
通过在大规模场景中应用 Nyström-based KSD 加速方法,本研究提出了一种基于核方法的新的好拟合测试方法,并在一系列基准测试中展示了其适用性。
Jun, 2024
本文提出了一种统一的视角来描述和设计基于最小 Stein 距离的估计器,并使用这种方法来设计新的扩散核 Stein 距离(DKSD)和扩散分数匹配(DSM)估计器,证明了它们的一致性、渐近正常性和鲁棒性,并为它们的高效优化推导了随机黎曼梯度下降算法。该方法的主要优势在于其灵活性,使我们能够通过仔细选择 Stein 距离来为特定的模型设计具有理想性质的估计器,并在一些具有挑战性的问题上进行了演示,例如光滑、重尾或轻尾密度的分数匹配。
Jun, 2019
提出了基于切片的 Stein discrepancy 和其可扩展和带核变体,这些变体采用基于核的测试函数,定义在最佳一维投影上,用于拟合优度检验和模型学习。在高维度下的拟合优度检验以及基于不同差异训练独立分量分析模型的结果表明,所提出的差异在性能上明显优于 KSD 和其他基准。此外,进一步提出了一种名为 sliced Stein 变分梯度下降(S-SVGD)的粒子推断方法,该方法可以缓解 SVGD 在训练变分自动编码器时的模式塌陷问题。
Jun, 2020
本文发展了基于 Ito 扩散的新型特征算子,针对任何具有快速耦合 Ito 扩散的目标,开发了明确的多元 Stein 因子边界,并应用于多个实际应用中,从而通过质量度量来选择超参数,比较随机和确定性的积分规则,并量化近似 MCMC 中的偏差 - 方差权衡。
Nov, 2016
该论文通过对马尔可夫链的模拟实现的采样数据的加权经验分布来修正近似抽样算法的输出,从而为相关领域的目标分布提供一致的估计量,并建立了一种普遍的再现 Stein Kernel 理论,适用于一般的 Polish 空间。
Jan, 2020
本文提出了一种新的差异度量统计量,该统计量基于 Stein 的恒等式和再生核希尔伯特空间理论相结合。我们将其应用于测试概率模型与观测值的拟合程度,并派生了一类新的强大的适用于复杂和高维分布的拟合优度检验,即使对于具有计算难度的常数归一化分布亦如此。我们全面研究了方法的理论和实证特性。
Feb, 2016