Apr, 2024

概率密度函数的中心度估计器

PDF
TL;DR该研究报告探讨了数据选择问题，旨在构建一族最大化中心性的估计器。这个估计器家族具有一些我们定义的准则下的准确和稳健的概率密度函数拟合性质。我们建立了中心性估计器与最大似然之间的联系，说明了后者是其中的一个特例。因此，提供了费舍尔最大似然的一个新的概率解释。我们还引入和研究了两个名为 Hölde 和 Lehmer 的特定中心性估计器。通过提供数值模拟实验证明了所提估计器家族的有效性，为机器学习、数据挖掘、统计学和数据分析领域的新概念和算法开辟了新的道路。
发现论文，激发创造
  • 计算效率高且简单的非标准化统计模型估计器家族

    本研究提出了一种新的非归一化统计模型估计器族，其参数由两个非线性函数组成，使用来自辅助分布的单个样本，推广了 Geyer 和 Thompson（1992）的最大似然蒙特卡罗估计方法，并且可以像模型中的任何其他参数一样估计分区函数。同时，我们可以通过优化代数简单且定义明确的目标函数来进行估计，从而允许使用专用优化方法。最后，我们从计算效率的角度考虑了相对于给定数据量的最佳辅助样本量。

    Mar, 2012

  • 鲁棒经验均值估计器

    本文研究了概率测度 $P$ 均值的健壮估计量，提出了一种稍微复杂的构造方法以处理健壮 $M$- 估计问题，并将该方法应用于最小二乘密度估计、具有 Kullback 损失的密度估计以及非高斯、不受限制的随机设计和异方差回归问题，同时作者表明该策略也可以用于数据只被假设为混合的情况。

    Dec, 2011

  • 无限维指数族密度估计

    使用无限维度的指数族函数族估算未知的概率密度，通过解决一个简单的有限维度线性系统，获得比非参数核密度估算器更好的结果，该估算器基于 Fisher 散度，可以在 Kullback-Leibler 散度下近似表示广泛类别的概率密度。

    Dec, 2013

  • 推导利默和 Holder 平均作为多元指数族最大加权似然估计

    在正态单变量指数族的情况下，最近建立了 Lehmer 和 H"older 平均家族与加权最大似然估计器之间的联系。本文将这些结果扩展到多变量情况，为这些均值家族提供了概率解释，从而扩大了它们在各种应用中的使用。

    May, 2024

  • 高维密度比估计及其拓展在近似似然计算中的应用

    提出了一种基于核算子特征函数的密度比估计器，避免了显式降维步骤，可以更好地反映数据的几何结构，同时可扩展应用于极端高维下的似然函数估计问题。

    Apr, 2014

  • 一种基于最大似然方法的统一分布性能优化估计

    利用插值最大似然估计（PML），可以很好地估计支持大小、覆盖区域、熵和接近均匀分布等数据科学中的对称性属性。

    Nov, 2016

  • 通过累积分布函数进行神经似然度计算

    利用神经网络作为单调函数的通用逼近器，利用参数化的条件累积分布函数建立黑盒子估计器，并在其它构造中比较其性能。

    Nov, 2018

  • 无穷范数下的分布估计

    给出了估计离散概率分布的新界限，这些界限在各种准确意义上几乎是最优的，包括一种实例最优性。我们提出的基于数据的最大似然估计的收敛性保证显著改进了目前已知的结果。我们利用和创新了多种技术，包括切诺夫型不等式和经验伯恩斯坦界。在合成和真实世界实验中验证了我们的结果。最后，我们将所提出的框架应用于一个基本的选择推理问题，即估计样本中最频繁的概率。

    Feb, 2024

  • 分布式估计、信息损失和指数族

    通过本文，我们研究并证明了一种简化的通信高效分布式学习框架，它利用数据子集计算本地最大似然估计量，并结合本地估计值实现对全局 MLE 的最佳近似，并证明了该框架的统计性质与误差率性质。我们还研究了使用 KL 散度方法与更常见的线性组合方法组合本地 MLE 的经验性能，并表明 KL 方法在实际设置中比线性组合方法更为优越，可解决模型错误、非凸性和异构数据分区等问题。

    Oct, 2014

  • Kullback-Leibler 损失函数估计器合并的最优指数界

    本篇研究文章探讨了针对各种概率模型使用 Kullback-Leibler 距离的模型选择类型聚合问题。文章提出了两种聚合方法，并使用惩罚极大似然准则选择聚合权重，给出了高概率的锐利的神谕不等式和相应的下界结果。

    Jan, 2016