Mar, 2016

基于核的联合独立性检验

PDF
TL;DR我们提出了一种用于检验 $d$ 个可能连续或不连续的随机变量是否相互独立的方法，该方法利用了二元 Hilbert-Schmidt 独立性准则（HSIC）的思想并允许任意数量的变量，将 $d$ 维联合分布和边缘乘积嵌入到再生核 Hilbert 空间中并定义 $d$ 变量的 Hilbert-Schmidt 独立性准则（dHSIC）为嵌入之间的平方距离。在总体情况下，只要核是特征的，dHSIC 的值为零则说明 $d$ 个变量相互独立。基于对 dHSIC 的经验估计，我们定义了三种不同的非参数假设检验：置换检验、自举检验和基于 Gamma 近似的检验。我们证明了置换检验达到了显著水平，并且自举检验也达到了点态渐近显著水平以及点态渐近一致性（即它能够在大样本极限中检测任何类型的固定依赖性）。Gamma 近似没有这些保证，但它在计算方面非常快，并且对于较小的 $d$，它的性能良好。最后，我们将该检验应用于因果发现问题。
independence criterionreproducing kernel hilbert spacenon-parametric hypothesis testspermutation testcausal discovery
发现论文，激发创造
  • 核独立性检验的一种更简易的一致性条件

    本文使用希尔伯特 - 施密特独立准则（HSIC）作为检验统计量，构建了独立性的统计检验方法，通过分析联合分布的嵌入和边缘分布乘积的嵌入之间在再生核希尔伯特空间中的距离来定义 HSIC。通过本文的研究结果表明，即使在联合分布的核函数不具有特性的情况下，在各自的域上的边缘核函数具有特性的基础上，也可以构建基于 HSIC 的独立性统计检验，并保持其一致性。

    Jan, 2015

  • 随机过程的核独立性检验

    文中提出了一种新的非参数化方法用于测试两个随机过程之间的独立性，使用了 Hilbert Schmidt 独立性准则（HSIC）作为检验统计量，该方法针对从随机过程中绘制的样本计算 HSIC 的渐近行为得到了建立，并且推荐了一种可替代的 p 值的一致估计，与线性方法相比，该新测试程序可以发现被线性方法忽略的依赖关系，而先前的自举程序会返回大量错误的结果。

    Feb, 2014

  • 相对依赖性的低方差一致性测试

    使用 Hilbert-Schmidt 独立准则（HSIC）测量依赖性，建立了新型非参数统计假设检验方法，用于确定一个源变量对于两个候选目标变量的依赖性。测试表明第一个依赖度量是否显著大于第二个，其结果表明建立这些 HSIC 统计数据之间的协方差计算比独立 HSIC 统计量的子采样法更有效。

    Jun, 2014

  • 平移不变核 HSIC 估计的极小最大速率

    在本研究中，我们证明了具有连续有界平移不变特征核的 Borel 测度中，Hilbert-Schmidt 独立性准则（HSIC）在 R^d 上的最优最小化估计率为 O (n^(-1/2))，从而证实了许多经常使用的估计器（包括 U 统计量、V 统计量和 Nystrom-based 统计量）在 R^d 上的最小化最优性。

    Mar, 2024

  • 具有分析核嵌入的独立性自适应测试

    提出了一种新的计算有效的依赖度量和自适应统计独立性检验方法，其特点是数据高效运行时间为线性，并且在真实基准中表现良好。

    Oct, 2016

  • 测试未标记数据库的依赖性

    该研究探讨了如何决定两个随机数据库之间是否存在统计依赖关系，并通过零假设和备择假设构建了一个假设检验问题，其中在零假设下，这两个数据库是统计独立的，而在备择假设下，存在一个未知的行排列使得两个数据库具有已知的联合分布但与零假设的边际分布相同。我们通过研究数据集生成分布的特征、$n$、$d$ 等因素，确定了信息理论上不可能和可能进行最优检验的阈值。此外，我们还分析了当 $d$ 固定时的情况，并推导出了强（错误几乎为零）和弱检测的下界和上界。

    Nov, 2023

  • 作为双样本检验代理的分类准确性

    探究在高维情况下对分类器的精度验证，证明一种基于排列组合的测试方法具有连续性及德克斯特拉极限分布的高斯近似测试也具有连续性，并以高斯分布为例进一步研究了线性判别分析和 Hotelling's 测试等方法的功率。

    Feb, 2016

  • 高阶交互作用的交互测量，划分格和核检验

    本研究提出了一种 $d$ 阶交互作用度量的层次结构，定义了非参数的基于核的检验方法来系统地确定 $d$ 阶交互作用的统计显著性，并与格理论建立数学联系，以提高计算效率。研究结果在合成数据验证和神经影像数据应用中得到了论证。

    Jun, 2023

  • 高维下核和距离非参数假设检验能力减弱

    探讨了决策理论问题中的非参数双样本检验与独立性检验，并指出使用核函数和点对之间的距离作为解决方案在高维设置中受到误解，测试的功率实际上随着维度的增加按多项式下降，提出了公平的替代假设，并阐明了核带宽选择中的中位数启发式的理论洞察力。

    Jun, 2014

  • 基于核的条件独立性检验及其在因果发现中的应用

    提出了一种基于核的条件独立性检验方法（KCI-test），可以有效地在维数较高、条件集较大、样本容量较小的情况下进行条件独立性检验，并且实验证明该方法胜过其他方法。

    Feb, 2012