非平稳异方差高斯过程回归的近似推断
通过引入异方差高斯过程（Heteroscedastic Gaussian process regression），并结合协变量引导的精度矩阵过程的混合公式，我们提出了一个新的框架，扩展了异方差高斯过程（HeGP）的概念，从回归任务扩展到分类和状态空间模型。通过仿真和气候学的实际应用，我们展示了该模型的优越性和优势。
Aug, 2023
本文介绍一种新的方法，使用全非定常高斯过程回归，在该方法中，三个关键参数 —— 噪声方差、信号方差和长度尺度 —— 均可以同时受输入影响。我们采用基于梯度的推理方法，学习未知函数和非定常模型参数，无需任何模型近似。我们提出使用哈密尔顿蒙特卡罗方法推断全参数后验，通过模型梯度指导采样，方便地扩展了基于解析梯度的 GPR 学习。我们还通过梯度上升从后验中学习 MAP 解。在几个合成数据集和时间基因表达建模实验中，非定常 GPR 被证明是建模真实的输入依赖动态所必需的，而否则它的性能与传统的定常或以前的非定常 GPR 模型相当。
Aug, 2015
该论文提出了一种使用 Kalman 递归实现线性时间推断的方法，避免了数值不稳定和收敛问题，通过实现该方法，解决了在处理非高斯似然时所遇到的麻烦，同时达到了快速稳定的变分推断效果，可处理包含百万数据点的时间序列的状态空间高斯过程模型。
Jul, 2020
本文研究了期望传播方法在广义线性模型下的渐近特性，并通过自由概率理论提出了一种计算复杂度更低的方法，对于具有渐近自由特性的数据矩阵可以有效应用于微阵列数据的基因选择问题。
Jan, 2018
本研究提出了一种在 Kalman 平滑过程中应用的简单参数更新规则，将非共轭时空高斯过程模型中的近似贝叶斯推理公式化，包括大部分推理方案，如 EP、经典 Kalman 平滑器和变分推理，并提供了这些算法的统一视角。
Jul, 2020
本研究采用全新的维度，给出了在含有输入相关噪声的仿真实验中，基于似然度的高斯进展回归的统一视角，同时针对复制在该背景下起到重要的作用，考虑了先前方法在利用复制数据的情况下忽视了计算节省的问题，或在保持易处理时快捷地简化了完整的基于似然度的推理。通过充分品味的流程了解了多种应用的可能性，我们展示了从同方差过程开始，如何在似然下通过已知的 Woodbury 身份的多次应用来推断所有参数，从而绕过典型的大小计算。然后，借鉴机器学习中的潜在变量思路来解决异方差性，将其调整到与节俭推理框架相同的工作原理中，并因此同时利用复制设计的计算和统计效率。结果是一种可表征为单一目标函数的推理方案，包括封闭形式的导数，用于快速基于库的优化。提供了丰富的实例， 包括制造业和流行病管理的真实世界仿真实验的案例研究。
Nov, 2016
本文介绍了高斯过程模型中两种推断超参数后验分布的方法，一种是哈密顿蒙特卡罗（HMC）求解采样近似，另一种是变分推断（VI），其中超参数后验分布被近似为一个因子化的高斯分布或全秩高斯分布，该文分析了完全贝叶斯高斯过程回归在多个基准数据集上的预测性能。
Dec, 2019