该文介绍了一种基于希尔伯特空间嵌入的分布表征方法,该方法利用再生核希尔伯特空间将分布映射到一个空间中,并扩展了一般支持向量机和其他核方法的整个内核方法库,为概率测量、统计推断、因果发现和深度学习等领域提供了广泛应用,并讨论了该方法的理论保证,应用和未来的研究方向。
May, 2016
该研究提出了一种新的概率模型 —— 贝叶斯核嵌入模型,它可以用于解决核学习中的核选择问题,并给出了一个简单、方便的边缘似然函数用于确定核超参数。
Mar, 2016
本文提出了一种基于 Stein 效应的新型收缩估计器,用于随机特征的数据驱动加权策略,可以在核逼近和监督学习任务中提供更好的性能。
May, 2017
该论文通过对马尔可夫链的模拟实现的采样数据的加权经验分布来修正近似抽样算法的输出,从而为相关领域的目标分布提供一致的估计量,并建立了一种普遍的再现 Stein Kernel 理论,适用于一般的 Polish 空间。
Jan, 2020
该研究论文探讨了一种基于 Stein Points 的方法,重点在于实现在点的选择方面很小的情况下实现准确的近似。使用贪婪或条件梯度法减小内核 Stein 差异,该方法能够以适度的计算成本准确近似后验。同时,理论结果表明了方法的收敛性。
Mar, 2018
研究了基于从 P 中独立随机抽样的应用正定核 k 的各种估计器(包括经验估计器)来最小化估计 Bochner 积分 μk(P)的理论保证。我们的主要发现是,对于一类离散分布和一类无穷可微分布,n ^ {- 1/2} 的收敛率分别是最小的,这是独立于核的平滑性和密度的(如果存在)。结果对非参数假设测试,密度估计和特征选择等统计应用具有实际意义。
Feb, 2016
通过在大规模场景中应用 Nyström-based KSD 加速方法,本研究提出了一种基于核方法的新的好拟合测试方法,并在一系列基准测试中展示了其适用性。
Jun, 2024
在本文中,我们首先确定深度学习中的归一化层使用的均值和方差估计器不可接受,然后介绍了一种运用 James-Stein 估计器改进均值和方差估计的新方法,评估表明我们改进的归一化层在各种计算机视觉任务中始终具有优越的准确性,而且不增加额外的计算负担。此外,我们还研究了两种显著的缩小估计器:Ridge 和 LASSO,通过可视化表示直观地展示了缩小对估计层统计量的影响,并对正则化和批量大小对我们修改后的批量归一化的影响进行了研究,研究显示我们的方法对批量大小和正则化不太敏感,在不同设置下提高了准确性。
Dec, 2023
本文研究了概率测度 $P$ 均值的健壮估计量,提出了一种稍微复杂的构造方法以处理健壮 $M$- 估计问题,并将该方法应用于最小二乘密度估计、具有 Kullback 损失的密度估计以及非高斯、不受限制的随机设计和异方差回归问题,同时作者表明该策略也可以用于数据只被假设为混合的情况。
Dec, 2011
本文研究贝叶斯推断问题,特别关注于最近引入的斯坦变分梯度下降方法,介绍了该方法的交互粒子系统构建;并通过研究选择合适的正定核函数的问题,提出采用调整尾部的某些不可微核函数,证明在各种数值实验中这种方法具有明显的性能提升。
Dec, 2019