Dec, 2023

GP+: 基于高斯过程进行核算法学习的 Python 库

HTML
PDF
TL;DR通过混合概率学习方法，我们介绍了一种基于高斯过程的开源库GP+，该库建立在PyTorch之上，具有用户友好性和面向对象的特点，用于概率学习和推理。我们还提出了融合非线性流形学习技术和高斯过程的协方差和均值函数的方法，并通过多个实例展示了GP+相对于其他GP建模库的独特优势。同时，我们还向GP+引入了能够进行概率数据融合和参数逆向估计的方法贡献以及在分类和定量变量混合特征空间上拥有节约参数的均值函数。我们在贝叶斯优化、多精度模型、灵敏度分析和计算机模型的校准等领域展示了这些贡献的重要影响。
发现论文，激发创造
  • 加性高斯过程

    本文介绍了一种高斯过程模型，其中的函数是可加的，这种函数可分解为低维函数的总和，每个低维函数只依赖于输入变量的一个子集。该模型引入了核函数的一种表达形式，通过它可以高效地评估所有输入交互项，在回归任务中表现出具有先进性的预测能力。

    Dec, 2011

  • 一般似然函数的稀疏后验高斯过程

    提出一种基于稀疏高斯过程的框架，使用期望传播直接逼近一般高斯过程的似然函数，既包括了 SPGP 和 VSGP 用于回归的特殊情况，又兼顾了在线处理数据的能力，可用于解决分类问题。在基准数据集上的实验表明，该框架在小样本规模下，不仅能够最大程度地逼近非稀疏 GP 解，而且可降低分类错误率。

    Mar, 2012

  • 流形高斯过程回归

    本研究提出了一种新的监督学习方法，Manifold Gaussian Processes，该方法通过联合学习将数据转换为特征空间，并从特征空间到观测空间建立了GP回归模型，实验结果表明该方法适用于包括非光滑函数和机器人任务等不规则函数。

    Feb, 2014

  • 高斯过程和核方法：联系和等价性的综述

    研究正定核的两种广泛使用的方法之间的差距，即贝叶斯学习或使用高斯过程进行推理和基于再生核希尔伯特空间的频率核方法，参考新旧结果和概念并比较算法数量和哲学理论差异。

    Jul, 2018

  • 高斯过程回归的直观教程

    本教程旨在提供对高斯过程回归的直观理解。首先解释了构建高斯过程的基本概念，包括多元正态分布，核函数，非参数模型以及联合和条件概率。然后简要描述了高斯过程回归以及标准高斯过程回归算法的实现。除标准高斯过程回归外，还介绍了实现最先进的高斯过程算法的软件包。本教程以易懂的方式编写，可确保没有机器学习背景的读者能够充分理解高斯过程回归的基础知识。

    Sep, 2020

  • 基于贝叶斯优化和符号最优传输的结构核搜索

    本文提出了一种通过定义与内核关联的统计假设的符号表示来定义内核-内核的方法，并在离散内核空间中搜索的新颖且高效的搜索方法。

    Oct, 2022

  • 利用局部性和稳健性实现大规模高斯过程回归

    本研究提出了一种基于最近邻预测的高斯过程回归算法，相比于现有算法，该算法具有更快的计算速度和更准确的预测结果，并且其对数据集大小和样本误差的鲁棒性更强。

    Jun, 2023

  • 深入的高斯过程的非稳态卷积核的统一视角

    高斯过程常用于数据的随机函数逼近和不确定性量化，在机器学习中它们表现出优秀的预测能力，尤其在数据稀缺场景下，但核函数作为高斯过程的重要构建模块，通常需要进行复杂的定制，我们通过研究代表性数据集中多种核函数的表现、性质和性能，提出了一种融合现有核函数优点的新核函数。

    Sep, 2023

  • GPTreeO：一个用于分割局部高斯过程的持续回归的R包

    本研究提出了GPTreeO，一个灵活的R包，旨在解决持续学习问题中的可扩展高斯过程回归。通过动态构建局部高斯回归器的二叉树，GPTreeO扩展了原有的DLGP算法，并优化了高斯过程超参数，最终在灵活性与性能之间提供了新的平衡解决方案。

    Oct, 2024

  • 计算感知高斯过程：模型选择与线性时间推理

    本研究解决了高斯过程模型选择在训练数据集规模扩大时所带来的时间和内存问题。提出了一种新的超参数优化训练损失，能够实现线性时间缩放，加速模型选择过程，并在中到大规模数据集上超越现有的最先进方法。研究结果表明，计算感知高斯过程可以在不显著妨碍不确定性量化能力的情况下，成功训练大规模数据集，为最佳决策提供了基础。

    Nov, 2024