该研究分析了离散分布估计问题,并提供了最大风险和最小极小风险的上下界,进而得出在特定条件下最大风险极小风险的渐近性能。通过该研究可得出在经验分布估计中的渐近最大风险和最小极小风险,并且通过对概率分量估计确定了渐近最小极小风险。
Nov, 2014
本文对 Kozachenko-Leonenko 估计器在扭曲空间中的微分熵进行了分析,提出了首个关于其性能的均匀上界估计和新的极小化下界估计,并且证明了 KL 估计器在不考虑 H"older 球的平滑参数时,可以达到极小化速率,成为第一个可以明确满足此属性的估计器。
Nov, 2017
本文提出了一种构建广义极小极大估计器的方法,以及一个基于多项分布的特殊案例。并在熵和互信息估计领域展示了这一方法的实用性和优势。
Jun, 2014
在独立样本的基础上,通过多项式逼近构建最优估计器并证明了最小均方误差与自然对数的平方存在关系,进而推导出最小样本量与以 K 为底的对数的比例成正比的一般规律.
Jul, 2014
本研究针对离散分布 P 进行 n 个独立同分布样本的香农熵估计,使用逼近理论法进行估计,实现了在估计熵的最小二乘率方面的极致。通过采用自适应估计框架,该方法相对极小值优化估计方法在分布 P 的嵌套子序列上实现了最小二乘率的估计,从而进一步证明了估计在样本 n 的情况下是最优的,并且基本上相当于 MLE 使用 nlnn 个样本进行估计。
Feb, 2015
本文研究了机器学习和计算几何中的一些问题,主要关注于如何准确估算支持概率分布的流型的内在维度,同时提出了相应的上下界极值估算公式。
May, 2016
本文研究了标准线性回归模型的极小极大收敛速度,证明在合适的设计矩阵正则化条件下,最小值误差在 $L_2$-,$L_{oldsymbol r}$- 损失和 $L_{oldsymbol 2}$- 预测损失内达到了收缩速度。同时,我们提供了 $L_{oldsymbol r}$- 范数的极小极大风险下限。
Oct, 2009
关于随机设计回归模型的统计学习研究,我们提出了一种聚合经验最小值的方法,并建立了其风险的尖锐 Oracle 不等式,进一步证明了在良好规定的模型下,统计估计和在错误规定的模型下的统计后悔的速率等价的结论。
Aug, 2013
通过构建一个使用混合方法的线性规划,解决非平滑区域的矩匹配问题并在平滑区域应用问题相关的偏差校正插入估计符的第一种极小估计,我们研究了整数 α≥1 下离散分布的 α- 距离的最小极大估计。
针对离散分布函数的函数估计问题,利用浓度不等式和正线性算子逼近理论分析了 MLE 估计器的最坏情况的平方误差风险及其期望偏差。研究表明,MLE 在估计香农熵和 F_α(P) 产生了次优的样本复杂度,且 Dirichlet 先验平滑技术不能达到最小化极值。