本文通过对 M 个密度估计器进行聚合过程来证明其最优性，并针对 KL 距离、Hellinger 距离和 L1 距离类型的模型选择估计器证明了下限，其中 KL 距离的下限可以通过 Yang (2000) 等人建议的在线估计获得。这些结果的结合使我们确认了对于采样量 n，ln (M/n) 是按照 Tsybakov (2003) 的意义下的最优聚合速率。

Mar, 2006

本文介绍了在确定性设计下，回归设置中的简单聚合问题，并将其从高斯分布扩展到指数族分布。通过约束和 / 或罚分最大化方法解决此问题并导出了能够在期望和高概率情况下保持的谐振不等式。最后，证明了所有边界在最小化意义上都是最优的。

Nov, 2009

针对独立同分布样本的密度的对数凹最大似然估计器的理论性质进行了阐述，对真实的基础密度为对数凹和误差模型两种情况进行了研究，证明了对于对数凹密度序列，分布收敛意味着强类型的收敛，而且在某些指数加权的总变异规范下甚至意味着 Hellinger 距离的收敛。在主要结果中，证明了所有对数凹密度中最小化 Kullback-Leibler 分歧的对数凹密度的存在性和唯一性，并且还展示了对于这些指数加权的总变异规范收敛于这个最小化器的对数凹最大似然估计器。在正确规定模型的情况下，这证明了估计器的一种强的一致性；在误设模型的情况下，它表明估计器收敛于最接近真实密度的 Kullback-Leibler 意义下的对数凹密度。

Aug, 2009

本文研究了密度估计器线性和凸聚合的问题，并提供相应的程序及其风险的奥卡尔不等式，以及相似核函数的线性和凸聚合方案可在 Sobolev 密度族中进行一致最优的最小化。

May, 2006

该研究提出了一种快速通用的方法，可以对混合模型的熵、交叉熵和 KL 散度的闭合形式下限和上限进行算法生成。

Jun, 2016

使用无限维度的指数族函数族估算未知的概率密度，通过解决一个简单的有限维度线性系统，获得比非参数核密度估算器更好的结果，该估算器基于 Fisher 散度，可以在 Kullback-Leibler 散度下近似表示广泛类别的概率密度。

Dec, 2013

采用指数权重的综合方法，在边际假设下，对于铰链风险（hinge risk），获得了凸聚合的最优速率。 此外，在边际假设下，对于超额贝叶斯风险，获得了模型选择聚合的最优速率。

Mar, 2006

本文讨论了在确定性设计模型下，平方损失的聚合问题。我们在误差分布和函数聚合方面获得了尖锐的 PAC-Bayesian 风险界，并将这些结果应用于导出稀疏谱系不等式。

Mar, 2008

本文研究非参数统计学中估计分歧的问题，提出了一种 Renyi-alpha 分歧的估计算法，并给出了一个关于该算法的指数不等式一致收敛边界，并通过数值实验验证了该算法。

Mar, 2016

本文提出了一种用于估计对数凹密度函数的最大似然估计方法，该方法利用了计算几何和 Shor 的 r 算法，具有自动化和无需参数选择等优点，并证明了其表现优于基于核的方法，可用于有限混合物拟合。

Apr, 2008