Jun, 2019

最小斯坦（Stein）差异估计量

PDF
TL;DR本文提出了一种统一的视角来描述和设计基于最小 Stein 距离的估计器，并使用这种方法来设计新的扩散核 Stein 距离（DKSD）和扩散分数匹配（DSM）估计器，证明了它们的一致性、渐近正常性和鲁棒性，并为它们的高效优化推导了随机黎曼梯度下降算法。该方法的主要优势在于其灵活性，使我们能够通过仔细选择 Stein 距离来为特定的模型设计具有理想性质的估计器，并在一些具有挑战性的问题上进行了演示，例如光滑、重尾或轻尾密度的分数匹配。
maximum likelihood estimationscore matchingcontrastive divergenceminimum probability flowdiffusion kernel stein discrepancy
发现论文，激发创造
  • Nyström 内核 Stein 差异

    通过在大规模场景中应用 Nyström-based KSD 加速方法，本研究提出了一种基于核方法的新的好拟合测试方法，并在一系列基准测试中展示了其适用性。

    Jun, 2024

  • 截断密度估计的近似斯坦类

    本文提出了基于近似 Stein 类的方法以及使用截断内核 Stein 差异度量（TKSD）的拉格朗日可对偶方法，用于解决截断密度估计问题，实验表明该方法的准确性提高了。

    Jun, 2023

  • 切片核化斯坦差异度

    提出了基于切片的 Stein discrepancy 和其可扩展和带核变体，这些变体采用基于核的测试函数，定义在最佳一维投影上，用于拟合优度检验和模型学习。在高维度下的拟合优度检验以及基于不同差异训练独立分量分析模型的结果表明，所提出的差异在性能上明显优于 KSD 和其他基准。此外，进一步提出了一种名为 sliced Stein 变分梯度下降（S-SVGD）的粒子推断方法，该方法可以缓解 SVGD 在训练变分自动编码器时的模式塌陷问题。

    Jun, 2020

  • 用核函数衡量样本质量

    本研究基于 Reproducing Kernel 和 Stein method 提出了一种新型的无偏采样方法，通过比较概率分布的差异来衡量采样结果的表现，并在一些目标分布中证明其收敛性和优越性。

    Mar, 2017

  • 基于核化斯坦距离的拟合优度检验中使用扰动改进

    提出一种 KSD 检验的改进方法，通过使用 Markov 转移核函数对样本进行扰动，保证目标分布不变，从而获得比 KSD 检验更高的检验能力。

    Apr, 2023

  • 核完备条件化斯坦差异

    介绍了基于 Stein 方法和核函数的新方法 KCC-SDs，可以用于区分分布，并通过 KCC-SDs 进行适配度检验和样本质量评估。

    Apr, 2019

  • 随机特征斯坦差异

    提出了一种新的质量度量方法 - 特征 Stein 差异度量（PhiSD），可通过重要抽样方法进行便宜的近线性逼近，适用于近似后验推断和适配度检验。在实验证明，在速度方面比平方时间差异度量 (KSD) 更快，可在计算中进行价值代替。

    Jun, 2018

  • 使用归一化流理解扩散得分匹配

    本文利用正则化流对扩散匹配进行建模，使扩散匹配等同于转换空间中的原始得分匹配，扩散矩阵是流雅可比矩阵的倒数，建立其与黎曼流形的联系，并将其扩展到连续流中。

    Jul, 2021

  • 核化斯坦差异度用于拟合优度检验和模型评估

    本文提出了一种新的差异度量统计量，该统计量基于 Stein 的恒等式和再生核希尔伯特空间理论相结合。我们将其应用于测试概率模型与观测值的拟合程度，并派生了一类新的强大的适用于复杂和高维分布的拟合优度检验，即使对于具有计算难度的常数归一化分布亦如此。我们全面研究了方法的理论和实证特性。

    Feb, 2016

  • 比较潜变量模型的内核斯坦检验

    本文提出一种基于核的非参数拟合度检验，旨在比较两个可能具有未观测潜在变量的模型，新检验相对于分布难以处理的情况进行通用化处理，并且相对最大均值差异检验具有更高性能。

    Jul, 2019