重尾分布的分数绝对矩
该论文研究了一种简单估计技术在重尾分布下提供指数集中性的应用和推广,证明该技术可用于平滑强凸损失函数的近似最小化,特别是在最小二乘线性回归、稀疏线性回归和低秩协方差矩阵估计中具有类似的特征。
Jul, 2013
本文提出了一种泛化的基于张量不等式的新熵方法,用于获得独立随机变量函数的矩不等式,这些不等式证明是一种广泛应用的工具。作者以一种轻松的方式重新推导出一些经典不等式,并讨论了该方法的其他应用。
Mar, 2005
研究怎样在不假设样本的基础分布为高斯分布的前提下,只假定有限个矩的情况下,有效地进行线性回归和协方差估计,并关注能用多少样本来实现高精度和指数级成功概率。使用八阶圆当量半定规划提供算法,预备性的证据表明在我们的算法使用的平均中位数框架中无法在多项式时间内改善这些误差率。
Dec, 2019
本文给出了关于有边界 k 阶矩分布不同隐私均值估计的最小最大样本复杂度的上下界,包括单变量和多变量情况,通过研究发现具有差分隐私约束时的样本复杂度与没有隐私时不同。
Feb, 2020
该研究提出了一种系统性的方法来分析随机变量的尾部,建立了一个基于广义 Gamma 分布的代数,该代数能够在各种操作下区分不同尺度的亚高斯函数,可以直接从定义中重现大部分重要的统计分布,并通过利用重尾代数的推理算法,实现了在多个密度建模及变分推理任务上实现了卓越的性能。
Jun, 2023
本文回顾了针对 Mills' ratio (1-Φ)/φ 的各种不等式,其中 φ 和 Φ 分别表示标准正态密度和分布函数。通过有限连分数的基本考虑,导出了一种普适的近似方法,这种方法可以推出和优化一些已知的界限。
Dec, 2010
本文提出了一种新颖的方法,通过多项式混沌展开直接从确定性 PCE 系数估计任意分数矩,应用于不确定性量化的各种任务,包括概率分布估计。在三个逐渐复杂的数值示例中,所得到的结果表明,与所呈现的标准拉丁超立方抽样相比,所提出的方法在估计响应分布方面具有卓越的性能。
Mar, 2024
我们研究了在协变量和响应函数都存在重尾污染的情况下,强鲁棒回归估计器的高维特性。尤其是,我们针对一族包括无二阶甚至更高阶矩不存在情况下的椭圆形协变量和噪声数据分布,提供了 M - 估计的锐性渐近特性描述。我们表明,尽管具有一致性,在存在重尾噪声的高维情形中,优化调整的 Huber 损失与位置参数 δ 是次优的,强调了需要进一步正则化以达到最佳性能的必要性。这个结果还揭示了 δ 作为样本复杂性和污染的函数的一个有趣的转变的存在。此外,我们导出了岭回归的超额风险的衰减速率。我们表明,对于有限二阶矩的噪声分布,岭回归虽然是最佳的且适用的,但当协变量的二阶矩不存在时,它的衰减速率可能会更快。最后,我们展示了我们的公式可以方便地推广到更丰富的模型和数据分布,如对混合模型的任意凸正则化训练的广义线性估计。
Sep, 2023