物理启发式方法探索理解高斯过程
该论文研究了高斯过程模型的能力和局限性,提出了一种具有可扩展性和统计效率的推理方法,探索了灵活的内核和用于学习超参数的客观函数。通过实验结果表明,这种方法在标准 MNIST 数据集上的性能优于所有之前报告的 GP 方法,并在 MNIST8M 数据集上突破了 1%的误差率,同时展示了它在分类问题中的可扩展性。总的来说,该方法在内核方法和 GP 模型方面取得了重大突破,缩小了深度学习方法和内核机器之间的差距。
Oct, 2016
本文综述了在地球卫星观测中,机器学习算法(尤其是高斯过程回归)在生物物理参数估计方面的应用,以及如何利用前向模型改进预测和理解物理关系。最后,本文提出了三种高斯过程模型,分别为联合高斯过程模型、潜在力模型和自动高斯过程仿真器,通过植被监测和大气建模的实例验证了它们的性能。
Dec, 2020
高斯过程在小型、结构化和相关的数据集上提供了一种有吸引力的回归方法。然而,它们的部署受到计算成本的限制,并且缺乏如何应用于复杂的低维数据集的指导。我们提出了一个框架,用于确定高斯过程在给定问题上的适用性,并建立一个强大且明确的高斯过程模型。该框架给出了有经验的高斯过程实践者的决策指南,重点关注核函数设计和计算可扩展性选项。然后,该框架用于一个冰川海拔变化的案例研究,在测试时得到更准确的结果。
Jul, 2023
本研究提出了一种翻译不敏感的卷积核,并将高斯过程重新制定为多输出高斯过程,以实现深度卷积高斯过程。实验证明,与使用 dropout 的贝叶斯深度学习方法相比,我们的全贝叶斯方法在不确定性和边际似然估计方面的性能有所提高。
Feb, 2019
本文提出了使用高斯过程模型来进行非参数回归,分类等任务,通过使用马尔科夫链方法对高斯过程的协方差函数的超参数进行采样,可以发现数据的高级特性并实现预测响应所需输入的相关性。
Jan, 1997
高斯过程常用于数据的随机函数逼近和不确定性量化,在机器学习中它们表现出优秀的预测能力,尤其在数据稀缺场景下,但核函数作为高斯过程的重要构建模块,通常需要进行复杂的定制,我们通过研究代表性数据集中多种核函数的表现、性质和性能,提出了一种融合现有核函数优点的新核函数。
Sep, 2023
通过结合机器学习技术和基于物理推理的方法,本文引入一系列可能的高斯过程模型,以提高基于有限数据的预测模型建立能力。这些方法可以显著减少对数据收集的依赖,并增强模型的可解释性。
Sep, 2023
通过将非一致性得分与高斯过程的后验标准差加权,提出了构建自适应交叉一致性预测区间的方法,这些预测区间具有类似于贝叶斯可信区间的适应性水平,并且在没有基础模型假设的情况下具有频率覆盖保证,可以用于评估高斯过程代理模型的质量,并帮助决策者选择最适合特定应用的最佳先验。
Jan, 2024
本文介绍了如何将图神经网络中的归纳偏置引入高斯过程中,以优化其在图结构数据上的预测表现,并得出了一些有趣的成员和提出了一种适用于大规模数据后验推断的协方差矩阵的近似方法,通过这些基于图的协方差矩阵,与相应的图神经网络相比,具有相似的分类和回归性能以及计算时间上的优势。
Feb, 2023