NIPSMar, 2016

密度泛函估计量的指数集中性

PDF
TL;DR本文研究插值法估计器，对于一个或多个连续概率密度的广泛积分函数进行分析，证明了该估计器在 $d$ 维单位立方体上的密度函数收敛于速率 $O (n^{- rac {eta}{eta + d}})$, 并且估计器关于其均值的集中呈指数级，而大部分先前的相关研究仅证明估计器的预期误差界限。
发现论文，激发创造
  • Rényi 分布估计的广义指数集中不等式

    本文研究非参数统计学中估计分歧的问题，提出了一种 Renyi-alpha 分歧的估计算法，并给出了一个关于该算法的指数不等式一致收敛边界，并通过数值实验验证了该算法。

    Mar, 2016

  • 密度水平集插值估计的最优速率

    研究密度水平集估计领域的插件方法的收敛性，建立了在密度的两个主要假设条件下的最优收敛速率和在 Hoelder 平滑性时的极小极大下界

    Nov, 2006

  • 无限维指数族密度估计

    使用无限维度的指数族函数族估算未知的概率密度，通过解决一个简单的有限维度线性系统，获得比非参数核密度估算器更好的结果，该估算器基于 Fisher 散度，可以在 Kullback-Leibler 散度下近似表示广泛类别的概率密度。

    Dec, 2013

  • 多元熵估计的集成估计器

    本文提出了一种加权仿射组合的概率密度估计方法，通过求解一个离线的凸优化问题来确定权重，从而获得一个在维数上具有维度不变性的估计器，该方法在实际应用中表现出优越的性能。

    Mar, 2012

  • Kullback-Leibler 损失函数估计器合并的最优指数界

    本篇研究文章探讨了针对各种概率模型使用 Kullback-Leibler 距离的模型选择类型聚合问题。文章提出了两种聚合方法，并使用惩罚极大似然准则选择聚合权重，给出了高概率的锐利的神谕不等式和相应的下界结果。

    Jan, 2016

  • 密度水平集的核密度估计

    通过计算多变量密度和内核估计器的渐近收敛率，揭示了插值估计器与 $t$- 级集的对称差之间体积的准确收敛速率，并得出与 $f$ 引导法的固定概率相对应的密度级别集的插值估计的精确收敛速率。

    Jan, 2005

  • 利用 Sinkhorn 散度实现更快的 Wasserstein 距离估计

    本研究提出使用 Sinkhorn 散度来估计平方 Wasserstein 距离，其允许更高的正则化水平，从而导致改进的计算复杂度界限和实际的强加速。

    Jun, 2020

  • 离散分布函数的最大似然功能估计

    针对离散分布函数的函数估计问题，利用浓度不等式和正线性算子逼近理论分析了 MLE 估计器的最坏情况的平方误差风险及其期望偏差。研究表明，MLE 在估计香农熵和 F_α(P) 产生了次优的样本复杂度，且 Dirichlet 先验平滑技术不能达到最小化极值。

    Jun, 2014

  • 无穷范数下的分布估计

    给出了估计离散概率分布的新界限，这些界限在各种准确意义上几乎是最优的，包括一种实例最优性。我们提出的基于数据的最大似然估计的收敛性保证显著改进了目前已知的结果。我们利用和创新了多种技术，包括切诺夫型不等式和经验伯恩斯坦界。在合成和真实世界实验中验证了我们的结果。最后，我们将所提出的框架应用于一个基本的选择推理问题，即估计样本中最频繁的概率。

    Feb, 2024

  • 重尾巴下的损失最小化和参数估计

    该论文研究了一种简单估计技术在重尾分布下提供指数集中性的应用和推广，证明该技术可用于平滑强凸损失函数的近似最小化，特别是在最小二乘线性回归、稀疏线性回归和低秩协方差矩阵估计中具有类似的特征。

    Jul, 2013