流形高斯过程回归
提出一种基于稀疏高斯过程的框架,使用期望传播直接逼近一般高斯过程的似然函数,既包括了 SPGP 和 VSGP 用于回归的特殊情况,又兼顾了在线处理数据的能力,可用于解决分类问题。在基准数据集上的实验表明,该框架在小样本规模下,不仅能够最大程度地逼近非稀疏 GP 解,而且可降低分类错误率。
Mar, 2012
本文介绍了两种基于低秩协方差矩阵逼近的并行高斯过程回归方法,这两种方法可以将计算负载分布在并行机器之间以达到时间效率和可伸缩性,并经过理论分析证明了这些方法的预测性能等价于一些集中式的近似高斯过程回归方法,并且在两个真实数据集上的实证评估表明我们的并行高斯过程回归方法比其集中式对应物和全高斯过程方法具有更高的时间效率和可伸缩性,同时实现与全高斯过程方法相当的预测性能。
Aug, 2014
本文提出了一种基于高斯混合回归的新型多输出高斯过程(MOGP)方法,利用MOGP 的协方差将从演示中检索的变异性捕获起来,使机器人能够精确跟踪经过点,同时在高变异地区保持的柔顺性。
Oct, 2019
高斯过程常用于数据的随机函数逼近和不确定性量化,在机器学习中它们表现出优秀的预测能力,尤其在数据稀缺场景下,但核函数作为高斯过程的重要构建模块,通常需要进行复杂的定制,我们通过研究代表性数据集中多种核函数的表现、性质和性能,提出了一种融合现有核函数优点的新核函数。
Sep, 2023
RVGP是一种推广的高斯过程(GPs),用于学习潜在黎曼流形上的向量信号,通过与数据的常见基于图形的逼近相关的切空间束联结Laplacian的特征函数进行位置编码,具有全局规律性,可以在保留奇异点的同时对向量场进行超分辨率重建和内插,用于重构健康人和阿尔茨海默病患者低密度脑电图记录的高密度神经动力学,并且我们发现向量场的奇异点是重要的疾病标记,并且其重建方法在疾病状态的分类精度上与高密度记录相当,因此克服了实验和临床应用中的一个重要限制。
Sep, 2023
高斯过程回归是一种用于提供准确的不确定性估计和处理小型或稀疏数据集的方法,然而在高维数据上存在困难,本文提出了一种能够在实际数据中直接推断隐含结构的高斯过程回归技术,并讨论了该模型收敛到假设流形上的Matern高斯过程的情况,该技术能够扩展到数十万个数据点,并提高高维情况下标准高斯过程回归的预测性能和校准性。
Oct, 2023
本研究提出了一种在机器人学习中处理非欧几里德流形数值数据的本质方法,该方法通过在流形上选择适当的概率分布,并将其参数作为预测变量的函数进行非参数化估计,同时结合核函数的局部似然方法,实现了比投影算法更好的预测准确性。
Oct, 2023
通过混合概率学习方法,我们介绍了一种基于高斯过程的开源库GP+,该库建立在PyTorch之上,具有用户友好性和面向对象的特点,用于概率学习和推理。我们还提出了融合非线性流形学习技术和高斯过程的协方差和均值函数的方法,并通过多个实例展示了GP+相对于其他GP建模库的独特优势。同时,我们还向GP+引入了能够进行概率数据融合和参数逆向估计的方法贡献以及在分类和定量变量混合特征空间上拥有节约参数的均值函数。我们在贝叶斯优化、多精度模型、灵敏度分析和计算机模型的校准等领域展示了这些贡献的重要影响。
Dec, 2023
通过对协方差核函数进行充分的必要条件判断,我们揭示了高斯过程的样本路径达到特定规则的条件,并证明了这些结果对机器学习中常用的Matern高斯过程等样本路径规则的特征提供了新颖而紧凑的描述。
Dec, 2023
本文提出了一种实用的深高斯过程模型,适用于里曼流形,旨在解决传统浅层高斯过程在复杂数据上的性能不足。该模型通过流形到流形的隐层架构,显著提高了高复杂度数据的预测质量和不确定性校准能力,并在贝叶斯优化问题中表现出显著的改进。最终,该研究展示了在适当映射的情况下,这些模型在非流形数据推断上的潜在加速效果。
Oct, 2024