小波去卷积估计器的全局一致风险界

Mar, 2011

小波去卷积估计器的全局一致风险界

Global uniform risk bounds for wavelet deconvolution estimators

Karim Lounici, Richard Nickl

TL;DR研究了基于小波去卷积的密度估计方法，给出了有界密度的小波去卷积密度估计方法的有限样本上确界和最小上确界风险下确界，并证明了它们在 Besov 球上是最优的，同时，还研究了线性估计器如何适应于未知光滑度的情况，波浪阈值小波估计器如何适应于多项式渐变误差下的问题，最后还给出了基于 Rademacher 进程的全局置信带的构造方法。

Abstract

We consider the statistical deconvolution problem where one observes $n$ replications from the model $Y=X+\epsilon$, where $X$ is the unobserved random signal of interest and $\epsilon$ is an independent random error with distribution $\phi$. Under weak assumptions on the decay of the Fourier transform of $\phi,$ we derive upper bounds for the finite-sample

wavelet deconvolution density estimation sup-norm risk besov balls rademacher processes

发现论文，激发创造

密度估计器的线性和凸聚合

本文研究了密度估计器线性和凸聚合的问题，并提供相应的程序及其风险的奥卡尔不等式，以及相似核函数的线性和凸聚合方案可在 Sobolev 密度族中进行一致最优的最小化。

May, 2006

信息约束下交互式高维估计的统一下界

本文提出了一种统一的框架，用于基于交互式协议的分布式参数估计，可以导出各种紧密下限，适用于不同的参数分布族；特别是在高斯家族的原型情况下，我们的方法可以规避以往技术的局限性，并补充了匹配的上限。

Oct, 2020

核平滑积分逼近

本文研究了核密度估计在非参数回归模型中的应用，提出了一种选取带宽参数的方法，并证明了在该条件下，估计的线性函数是渐近正态的，其渐近方差不依赖于回归函数，同时探讨了函数的光滑程度等影响估计结果的因素。

Sep, 2014

极限反卷积：从嘈杂、异构和不完整的观测中推断完整的分布函数

扩展高斯混合模型及 EM 技术，推广至带有不确定性协方差及缺失数据属性的数据点集，使用共轭先验和分离合并算法避免局部最优解，应用于 Hipparcos 卫星测量的二维星速数据，推断星体三维速度分布的算法。

May, 2009

通过最小 Wasserstein 反卷积实现非耦合等距回归

本文阐述了利用基于最优传输理论的工具来推导满足 $y_i$ 弱矩条件的极小极大率，并给出了实现最优率的有效算法。上下界都使用与学习混合分布和反卷积相关的矩匹配论据。

Jun, 2018

具有局部和全局对抗性破坏的强健分布学习

在对抗性环境中，考虑利用计算上高效的估计器最小化 Wasserstein 距离，并开发具有有界误差的有限样本算法，用于鲁棒性随机优化。

Jun, 2024

全球隐私成本和密度估计

本文研究了在 Lipschitz 和 Sobolev 空间中具有全局隐私性的非参数密度估计问题，并探讨了隐私预算不应为常数的情况下的最优解。结果表明投影估计器在这种新的设置下与纯差分隐私的相同密度类别几乎是最优的。

Jun, 2023

信息论泛化界的统一框架

文中提出了一种利用概率去相关引理、对测度空间中的的概率测度进行对称化、配对和链化等技术来获得学习算法信息论泛化界限的一般性方法，进而得到新的期望值和高概率条件下泛化误差的上界，特别地，还包括了基于互信息、条件互信息、随机链和 PAC-Bayes 不等式等现有泛化界限的特例。此外，Fernique-Talagrand 上界也是一个特例。

May, 2023

关于保序和其他形状受限回归问题的风险界限

在一定约束条件下通过最小二乘估计器来估算位于特定凸多面锥体内的未知 θ ，得到了该估计器的风险边界，特别地，研究了保序回归中的风险边界及其本地最小值下边界。

Nov, 2013

基于通信约束的分布式参数估计的几何下界

在分布式网络中进行参数估计，考虑每个传感器从基础分布中观察独立样本并具有 $k$ 位通信其样本到集中式处理器，该处理器计算所需参数的估计值。我们为一类广泛的损失和分布模型开发极小化风险的下界，并表明在温和的正则条件下，当 $k$ 较小时，通信约束将使有效样本量减少 $d$ 倍，其中 $d$ 是被估计参数的维数。此惩罚随着 $k$ 的增加而以最多指数级别降低，这对某些模型如高维分布估计成立。对于其他模型，我们表明样本量的减少是与 $k$ 线性递减的，例如，当一些次高斯结构可用时。我们将结果应用于具有乘积 Bernoulli 模型、多项式模型、高斯位置模型和逻辑回归的分布式设置中，从而恢复或加强现有结果。

Feb, 2018