高斯过程得分函数的随机逼近
提出一种考虑空间维度的无序观测数据的参数估计的框架,利用 Martinsson 和 Rokhlin 描述的骨架方法和 Lin 等人提出的矩阵去皮算法,在满足特定假设的条件下,可以以 $ ilde O (n^{3/2})$ 时间评估对数似然和梯度,从而迅速准确地计算最大似然估计。
Mar, 2016
我们从非参数统计学的角度研究了大样本情况下基于得分的扩散模型抽样的渐近误差,并证明了核密度估计得分函数的均方误差取得最优解。通过采用早停策略,对非参数空间进行约束,可以得出扩散模型的近似最优性。这一研究消除了以往对于非参数族中概率分布的关键下界假设。
Feb, 2024
本文提出了一种自然指数分布家族 - 多项式指数分布家族, 对于这个家族的分布进行最大似然和得分匹配的比较研究,揭示得分匹配的损失函数可以通过计算复杂度低的优化方法进行计算,且在统计效率上与最大似然方法相当,而最大似然损失函数是无法通过基于梯度的方法进行优化的。
Jun, 2023
在空间统计和机器学习中,核矩阵在预测、分类和最大似然估计中起着关键作用。对于大样本量情况,经彻底检查发现,只要采样位置相对均匀分布,核矩阵就会出现病态,这给预测和估计计算中使用的数值算法带来了重大挑战,需要对预测和高斯似然进行近似处理。对当前管理大规模空间数据的方法进行综述表明,一些方法未能解决这个病态问题。这种病态经常导致随机过程的低秩近似。本文引入了各种最佳性准则,并提供了相应的解决方案。
Nov, 2023
本文提出了一种可扩展的随机主化最小化方案,能够应对大规模或可能无限的数据集,解决凸优化问题,并开发了几种基于此框架的有效算法,包括一个新的随机近端梯度方法,用于大规模 l1 逻辑回归的非凸稀疏估计的在线 DC 编程算法和解决大规模结构矩阵分解问题的有效性。
Jun, 2013
我们提出了一种新的算法,用于部分已知高斯图模型的支持估计,该算法结合了关于底层图的先验信息。 im 简化后,我们通过伯努利分布生成图数据集,然后使用图神经网络有效地估计图先验的评分。数值实验证明了我们方法的优势。
Jan, 2024
该论文考虑了使用高斯过程进行回归时,计算学习曲线(即平均泛化性能)的问题,并提出了一种基于协方差函数的特征值分解的一些近似方案,这些新的近似方案通常更接近真实值。
May, 2001
本研究以连续贪心算法为基础,研究了具有一般性骨架约束的随机子模最大化问题,主要应用于在线学习,团队形成,设施位置,影响最大化,主动学习和感知目标函数。实验表明,使用多项式梯度估计代替样本估计,可有效减少随机性并缩短执行时间。
Mar, 2023