本文提出了一种广义的函数线性回归模型，包括函数线性模型、泊松回归和二项回归，并使用截断 Karhunen-Loeve 展开逼近预测过程进行降维，开发了一种适用于广义回归模型的渐近推断方法，其中截断参数随样本大小而增加，并应用控制变量的中心极限定理来建立维数的渐近增加，建立合适的 L^2 度量下的估计和真实函数之间的适当缩放距离的渐近正态性。

May, 2005

在本文中，我们提出了一种新的损失函数和一种计算高效的估计器，它在温和条件下是一致且渐近正态的。我们将我们的方法视为同一类指数族的重新参数化分布的最大似然估计，并证明我们的估计器可以解释为最小化特定的 Bregman 得分以及最小化代理似然的实例。同时，我们还提供了有限样本保证，以在参数估计中实现误差（在ℓ₂范数中）为 α，样本复杂度为 O (poly (k)/α²)。当定制为节点稀疏马尔可夫随机场时，我们的方法实现了 O (log (k)/α²) 的优化样本复杂度。最后，我们通过数值实验展示了我们估计器的性能。

Sep, 2023

本文提出了一个非参数条件分布族，使用适当的 RKHS 中的函数参数来推广条件指数族；给出了一个学习广义自然参数的算法，并在特定情况下建立了估计的一致性。在实验中，新方法通常优于具有一致性保证的竞争方法，并在表现突变和异方差性的数据集上与深度条件密度模型具有竞争力。

Nov, 2017

本文研究一类排列上的指数族，并计算其规范化常数的渐近性质，证明 MLE 及一种可计算的近似 MLE 是一致的，证明 Besag 的伪似然估计是 sqrt（n）- 一致的，证明了迭代算法（IPFP）收敛于极限规范化常数，并且对应用于 Mallows 模型和 Kendall's Tau 的情况进行了分析。

Jul, 2013

该研究重新考虑了与计算最大似然估计困难有关的问题，并将其应用于分析指数随机图模型。该研究揭示了离散指数族分布与凸支撑的正规扇形之间的重要关系，这对于理解 ERG 模型的性质和行为至关重要。

Dec, 2008

本研究提出了一种新的非归一化统计模型估计器族，其参数由两个非线性函数组成，使用来自辅助分布的单个样本，推广了 Geyer 和 Thompson（1992）的最大似然蒙特卡罗估计方法，并且可以像模型中的任何其他参数一样估计分区函数。同时，我们可以通过优化代数简单且定义明确的目标函数来进行估计，从而允许使用专用优化方法。最后，我们从计算效率的角度考虑了相对于给定数据量的最佳辅助样本量。

Mar, 2012

本文介绍了在确定性设计下，回归设置中的简单聚合问题，并将其从高斯分布扩展到指数族分布。通过约束和 / 或罚分最大化方法解决此问题并导出了能够在期望和高概率情况下保持的谐振不等式。最后，证明了所有边界在最小化意义上都是最优的。

Nov, 2009

提出了一种用于概率模型的折叠变分推断算法的通用方法，该方法整合了许多现有的折叠变分推断方法，并基于较快的共轭梯度优化方法导出新的较低边际似然性的下界。

Jun, 2012

该文介绍了一种新的回归算法，它学习线性因子函数，并解决了维度灾难的问题，可用于信念传播和强化学习等应用。通过正则化的贪心优化方案，在训练期间学习因子基函数。新的回归算法在基准任务上表现竞争力，学习的线性因子函数相当精简。

Dec, 2014

通过 Exponential Screening 方法，本文讨论了高维线性回归的稀疏估计问题，提出一个同时考虑稀疏性和均方误差最小的线性组合近似函数估计方法，并证明其在高斯回归方面的优越性。

Mar, 2010