核独立性检验的一种更简易的一致性条件
文中提出了一种新的非参数化方法用于测试两个随机过程之间的独立性,使用了 Hilbert Schmidt 独立性准则(HSIC)作为检验统计量,该方法针对从随机过程中绘制的样本计算 HSIC 的渐近行为得到了建立,并且推荐了一种可替代的 p 值的一致估计,与线性方法相比,该新测试程序可以发现被线性方法忽略的依赖关系,而先前的自举程序会返回大量错误的结果。
Feb, 2014
我们提出了一种用于检验 $d$ 个可能连续或不连续的随机变量是否相互独立的方法,该方法利用了二元 Hilbert-Schmidt 独立性准则(HSIC)的思想并允许任意数量的变量,将 $d$ 维联合分布和边缘乘积嵌入到再生核 Hilbert 空间中并定义 $d$ 变量的 Hilbert-Schmidt 独立性准则(dHSIC)为嵌入之间的平方距离。在总体情况下,只要核是特征的,dHSIC 的值为零则说明 $d$ 个变量相互独立。基于对 dHSIC 的经验估计,我们定义了三种不同的非参数假设检验:置换检验、自举检验和基于 Gamma 近似的检验。我们证明了置换检验达到了显著水平,并且自举检验也达到了点态渐近显著水平以及点态渐近一致性(即它能够在大样本极限中检测任何类型的固定依赖性)。Gamma 近似没有这些保证,但它在计算方面非常快,并且对于较小的 $d$,它的性能良好。最后,我们将该检验应用于因果发现问题。
Mar, 2016
在本研究中,我们证明了具有连续有界平移不变特征核的 Borel 测度中,Hilbert-Schmidt 独立性准则(HSIC)在 R^d 上的最优最小化估计率为 O (n^(-1/2)),从而证实了许多经常使用的估计器(包括 U 统计量、V 统计量和 Nystrom-based 统计量)在 R^d 上的最小化最优性。
Mar, 2024
使用 HSIC 作为损失函数学习鲁棒回归和分类模型,以期望产生具有良好概括性能力的模型用于处理无监督共变量漂移任务,实验表明其优于标准损失函数取得最新成果。
Oct, 2019
使用 Hilbert-Schmidt 独立准则(HSIC)测量依赖性,建立了新型非参数统计假设检验方法,用于确定一个源变量对于两个候选目标变量的依赖性。测试表明第一个依赖度量是否显著大于第二个,其结果表明建立这些 HSIC 统计数据之间的协方差计算比独立 HSIC 统计量的子采样法更有效。
Jun, 2014
本文提出了一种基于 Hilbert-Schmidt 独立准则(HSIC)的新内核共现测量方式,称为 pointwise HSIC(PHSIC),可用于稀疏语言表达(例如句子),并且学习时间非常短,是点间互信息(PMI)的替代方法,并且在对话响应选择任务中,PHSIC 比基于 RNN 的 PMI 快几千倍的学习速度,同时准确性也更好。
Sep, 2018
本研究从统计相关性的角度探讨自我监督学习方法,提出了一种基于 Hilbert-Schmidt 独立性准则(SSL-HSIC)的自我监督学习方法,该方法最大化与图像表示转换和图像身份的相关性,并将那些表示的核化方差最小化。实验表明,该方法在 ImageNet 数据集上的表现可以匹敌当前的最佳方法。
Jun, 2021
通过反例,我们证明了使用 Hilbert-Schmidt 独立性准则(HSIC)来进行特征选择的基本原理是错误的,而且通过 HSIC 的最大化可能会忽略掉关键特征。
Jun, 2024