基于核化斯坦距离的拟合优度检验中使用扰动改进
通过在大规模场景中应用 Nyström-based KSD 加速方法,本研究提出了一种基于核方法的新的好拟合测试方法,并在一系列基准测试中展示了其适用性。
Jun, 2024
提出了基于切片的 Stein discrepancy 和其可扩展和带核变体,这些变体采用基于核的测试函数,定义在最佳一维投影上,用于拟合优度检验和模型学习。在高维度下的拟合优度检验以及基于不同差异训练独立分量分析模型的结果表明,所提出的差异在性能上明显优于 KSD 和其他基准。此外,进一步提出了一种名为 sliced Stein 变分梯度下降(S-SVGD)的粒子推断方法,该方法可以缓解 SVGD 在训练变分自动编码器时的模式塌陷问题。
Jun, 2020
本文提出一种基于核的非参数拟合度检验,旨在比较两个可能具有未观测潜在变量的模型,新检验相对于分布难以处理的情况进行通用化处理,并且相对最大均值差异检验具有更高性能。
Jul, 2019
本文提出了一种新的差异度量统计量,该统计量基于 Stein 的恒等式和再生核希尔伯特空间理论相结合。我们将其应用于测试概率模型与观测值的拟合程度,并派生了一类新的强大的适用于复杂和高维分布的拟合优度检验,即使对于具有计算难度的常数归一化分布亦如此。我们全面研究了方法的理论和实证特性。
Feb, 2016
本研究基于 Reproducing Kernel 和 Stein method 提出了一种新型的无偏采样方法,通过比较概率分布的差异来衡量采样结果的表现,并在一些目标分布中证明其收敛性和优越性。
Mar, 2017
本文提出了一种统一的视角来描述和设计基于最小 Stein 距离的估计器,并使用这种方法来设计新的扩散核 Stein 距离(DKSD)和扩散分数匹配(DSM)估计器,证明了它们的一致性、渐近正常性和鲁棒性,并为它们的高效优化推导了随机黎曼梯度下降算法。该方法的主要优势在于其灵活性,使我们能够通过仔细选择 Stein 距离来为特定的模型设计具有理想性质的估计器,并在一些具有挑战性的问题上进行了演示,例如光滑、重尾或轻尾密度的分数匹配。
Jun, 2019
我们提出了一种新的适应性拟合优度检验方法,通过最小化假阴性率,学习最能表明观察样本与参考模型之间差异的测试特征来构建这些特征,我们采用了 Stein 法。该方法在计算成本上是线性的,并且在实验中的表现优于前期线性测试的表现,在高维度和可以利用模型结构的情况下,我们的合适性检验的表现远好于基于最大均值偏差的二次时间两样本检验,其中样本是从模型中抽取的。
May, 2017
提出了一种非参数统计检验方法,用于判断给定样本是否来自目标密度函数,其中好度量采用使用再生核希尔伯特空间函数构造的发散度,检验统计量是基于目标密度和内核的对数梯度的经验估计的 V - 统计量,并使用野外引导过程估计空分布,适用于定量近似马尔可夫链蒙特卡罗方法的收敛、统计模型检验和评估非参数密度估计中的适配质量与模型复杂度。
Feb, 2016
提出了一种新的质量度量方法 - 特征 Stein 差异度量(PhiSD),可通过重要抽样方法进行便宜的近线性逼近,适用于近似后验推断和适配度检验。在实验证明,在速度方面比平方时间差异度量 (KSD) 更快,可在计算中进行价值代替。
Jun, 2018