Oct, 2023

LMC 多任务高斯过程模型的准确高效解决方案

PDF
TL;DR在本研究中，通过对线性协同关联模型（LMC）进行扩展和参数化，我们证明了只需要对噪声模型做一个温和的假设，即可实现高效的 LMC 的精确计算，从而使其成为目前最先进模型的可靠且简化的替代品，极大地方便了一些计算，如留一法交叉验证和虚构。
linear model of co-regionalizationmultitask gaussian processlatent processesprojected lmcexact computation
发现论文，激发创造
  • E-LMC: 基于空间协同变异数组的扩展线性核函数模型

    介绍了一种将可逆神经网络引入到线性核关联模型中，以便更好地处理非线性问题，并有效地利用空间相关性，表现出了 40％左右的最大改进，并胜过其他最先进的空间场模型。

    Mar, 2022

  • 大数据的并行高斯过程回归：低秩表示遇上马尔可夫近似

    本文提出了一种低秩 / 马尔科夫逼近的高斯过程模型，该模型在保证预测性能的同时提高了可扩展性并且适合于在多个机器 / 内核上并行运行。

    Nov, 2014

  • 具有随机变分推断的可扩展多输出高斯过程

    多输出高斯过程是建模来自多个来源的数据的流行工具，本文提出了 LV-MOGP 的随机变分推断方法，使得计算复杂度与输出数量无关。

    Jul, 2024

  • 使用高斯过程高效建模监督学习中的潜在信息

    该研究介绍了一种新型模型，称为潜在变量多输出高斯过程 (LVMOGP)，该模型可以捕捉多种条件的潜在信息，实现在测试时对新条件的有效推广，并提出了高效的变分推断方法，该方法的计算复杂度低于稀疏高斯过程。研究表明，在多个任务中，LVMOGP 在合成和真实数据上表现优异，并比相关的高斯过程方法优异。

    May, 2017

  • 线性模型中的多变量重尾推断

    提出了一种基于特征函数的线性特征模型（LCM），利用稳定分布计算在图形模型中存在的重尾分布下的精确和近似推理，该模型不局限于稳定分布，并可适用于离散、连续或混合随机变量。

    Aug, 2010

  • 高斯过程模型输入不确定性的变分推断

    本文提出了一种贝叶斯方法，通过非标准变分推理框架在 GP-LVM 中近似积分出潜在变量，从而通过最大化解析较低下界的确切边缘似然来训练 GP-LVM，在学习非线性动态系统方面具有鲁棒性和自动选择非线性潜在空间维数的能力。

    Sep, 2014

  • 大规模高斯过程回归的分层专家混合模型

    我们提出了一个实用且可扩展的高斯过程模型，用于大规模非线性概率回归。我们的专家混合模型在概念上简单，并以分层方式重新组合计算，以对整个高斯过程进行近似。通过封闭形式和分布式计算，可以实现高效的大规模并行化，同时保持内存消耗较小。因此，我们的模型具有处理任意大小数据集的潜力，而无需明确的稀疏逼近。我们提供了强有力的实验证据，表明我们的模型可以应用于超过数百万个数据的大数据集。因此，我们的模型有可能为一般的大规模高斯过程研究打下基础。

    Dec, 2014

  • 使用潜在类和潜在过程的扩展混合模型估计: R 包 lcmm

    该研究介绍了一个名为 lcmm 的 R 包，该包提供一系列函数，能够基于线性混合模型理论来估计多种数据模型，其中包括了高斯纵向结果 (hlme)、曲线和有序单变量纵向结果 (lcmm)、曲线多变量结果 (multlcmm)、联合潜在类混合模型 (Jointlcmm) 等；该包还提供最大似然估计函数，以及可能包括其负数的二次导数基于参数和似然稳定性的严格收敛标准；此外，该包还提供多种与后拟函数有关的函数，如拟合度分析、分类、预测轨迹、个体动态预测和预测精度评估等，该文实际上是该包的同伴文件，旨在通过数据集的实际示例等方式，介绍每个数据模型的家族、估计技术和一些实施细节。

    Mar, 2015

  • 使用投影 Langevin 蒙特卡洛采样对数凹分布

    通过投影步骤（与投影随机梯度下降类似），我们将 Langevin Monte Carlo（LMC）算法扩展到紧支持测度。我们的主要结果特别表明，当目标分布是均匀分布时，LMC 在 $\tilde {O}(n^7)$ 步内混合。我们还提供初步的实验证据表明，LMC 的表现至少与 hit-and-run 相当，而 Lov {\'a} sz 和 Vempala 证明了更好的混合时间为 $\tilde {O}(n^4)$。

    Jul, 2015

  • 基于随机傅里叶特征的贝叶斯非线性潜变量建模

    提出一种新的方法，用于一般化贝叶斯非线性潜在变量建模，通过使用随机傅里叶特征来逼近高斯过程映射中的核函数，从而将 GPLVM 推广至泊松、负二项和多项分布等情况，并通过随机特征潜变量模型（RFLVM）对广泛的应用进行评估，结果表明该算法在复杂数据集的潜在结构和数据填充方面表现出着与现有先进算法相当的实用性。

    Jun, 2023