核条件指数族
提供了一种通过学习深度网络参数化的核函数来建模复杂结构的密度模型方法,相较于利用最大似然拟合的深度密度模型,虽然前者可能会得到更高似然度,但后者提供了更好描述分布形状的对数密度梯度得到更好的估计,二者有不同的优缺点。
Nov, 2018
在本文中,我们提出了一种新的损失函数和一种计算高效的估计器,它在温和条件下是一致且渐近正态的。我们将我们的方法视为同一类指数族的重新参数化分布的最大似然估计,并证明我们的估计器可以解释为最小化特定的 Bregman 得分以及最小化代理似然的实例。同时,我们还提供了有限样本保证,以在参数估计中实现误差(在ℓ₂范数中)为 α,样本复杂度为 O (poly (k)/α²)。当定制为节点稀疏马尔可夫随机场时,我们的方法实现了 O (log (k)/α²) 的优化样本复杂度。最后,我们通过数值实验展示了我们估计器的性能。
Sep, 2023
论文定义了一类极其灵活的流形上指数家族分布,使用非交换 Fast Fourier 变换(FFT)的一般化方法提高了对数似然度函数的梯度计算效率。应用于贝叶斯相机运动估计和地震空间分布建模,并且实验结果表明,与最佳竞争方法相比,调和密度的似然性显着更高,同时训练速度快几个数量级。
May, 2015
研究了一类指数族模型,其规范参数被指定为未知的无限维斜率函数的线性泛函。建立了斜率函数估计的最优最小值收敛速率。构造了实现最优速率的估计量,这些估计量通过带有样本大小增长的参数的受限最大似然估计来构造。通过类似于 Le Cam 渐近等价理论的测度变换论证,消除了指数族模型非线性引起的偏差。
Aug, 2011
本研究提出了核哈密顿蒙特卡罗算法(KMC), 一种基于哈密顿蒙特卡罗的无梯度自适应 MCMC 算法。在目标密度函数不可求梯度时,KMC 通过拟合重现核希尔伯特空间中的指数族模型,自适应地学习目标的梯度结构。其具有收敛到精确解的能力,且在采样效率上与 HMC 相当并且具有极大的混合改进,通过玩具和现实应用的实验研究来支持我们的结论,包括近似贝叶斯计算和精确 - 近似 MCMC。
Jun, 2015
该文介绍了常见于统计学中的指数族分布,着重回顾并总结了分布的性质、双重性,以及常见分布的分解和相关公式。同时介绍了 Fisher-Rao-Riemannian 几何和统计流形的双重仿射连接信息几何,以便于后续添加新的分布选项。
Nov, 2009
本研究提出了一种学习指数族密度模型的快速方法,其中自然参数在再生核希尔伯特空间中,可以是无限维的。该模型通过拟合对数密度的导数来实现学习,从而避免了计算归一化常数的需求。该方法在密度估计和构建自适应哈密尔顿蒙特卡洛取样器方面得到了评估。
May, 2017
本文提出一种基于罚函数的最大对数似然估计方法,针对自变量在再生核 Hilbert 空间中的指数族分布进行研究,通过 “双重对偶嵌入” 技术避免了划分函数的计算,同时还提出灵活的采样策略以节约推理阶段的蒙特卡罗采样成本,并将该估计器推广到核条件指数族中。我们还将核指数族估计方法和 MMD-GANs 相联系,揭示了理解 GAN 的新视角,该方法在时间和内存效率上优于基于分数匹配的估计器,且在统计收敛率上表现更强。实验结果表明,该估计器在性能上优于现有的最先进技术。
Nov, 2018
该研究重新考虑了与计算最大似然估计困难有关的问题,并将其应用于分析指数随机图模型。该研究揭示了离散指数族分布与凸支撑的正规扇形之间的重要关系,这对于理解 ERG 模型的性质和行为至关重要。
Dec, 2008
利用扩展的再生核希尔伯特空间(RKHS)理论建立了一个新的框架,可以对功能响应进行函数回归模型建模。该方法只假定一般非线性回归结构,而不是以前研究过的线性回归模型,并提出了广义交叉验证(GCV)来进行自动平滑参数估计。新的 RKHS 估计方法在模拟和实际数据上进行了应用。
Feb, 2007