算法线性受限高斯过程
本文利用概率机器学习的最新进展,发现由参数线性方程表达的守恒定律,通过高斯过程先验根据此类算子的特定形式进行修改并用于从稀疏和可能嘈杂的观测中推断出线性方程的参数,这些观测可以来自实验或 “黑盒” 计算机模拟。
Jan, 2017
介绍了数值高斯过程的概念,它是通过对时间依赖偏微分方程进行时间离散化来定义的高斯过程。当前的方法可以处理的情况包括只能观测到初始条件的噪声数据和我们感兴趣的是在解决时间依赖偏微分方程时与这些噪声数据相关的不确定性的量化。这种方法通过适当放置高斯过程先验来避免空间离散化差分算子的需要。经过多个基准测试问题的验证,该方法的有效性得到了证明,包括涉及线性和非线性时间依赖算子的情况,即使在长时间积分的情况下我们也能恰当地求解潜在解,并保持不确定性传播的一致性。
Mar, 2017
本文对高斯过程中的协方差函数进行了修改,以正确地考虑已知的线性约束条件,并通过将目标函数建模为底层函数的一个变换来将约束条件显式地纳入模型中,最终提出一个设计变换算子的方法,并在模拟数据和真实数据示例中进行了实证研究。
Mar, 2017
本研究关注使用高斯代理模型处理与线性偏微分方程相关的贝叶斯反问题,重点关注只有少量训练数据可用的情况下使用的高斯先验类型对于近似后验的性能影响的扩展研究。实验表明 PDE - 信息高斯先验优于传统先验。
Jul, 2023
本文提出了使用高斯过程模型来进行非参数回归,分类等任务,通过使用马尔科夫链方法对高斯过程的协方差函数的超参数进行采样,可以发现数据的高级特性并实现预测响应所需输入的相关性。
Jan, 1997
本文提出了一种新的多输出高斯过程扩展方法,用于处理异构输出,此方法使用向量值高斯过程先验来联合建模所有似然函数中的参数作为潜在函数,并以线性模型为核心的协同关系形式使用协方差函数;在假设潜在函数之间存在条件独立性并利用引导变量框架的前提下,我们能够获得易于处理的变分下界,适用于随机变分推理。最后我们在合成数据以及两个真实数据集上:人类行为研究数据集以及人口统计高维数据集中展示了该模型的性能。
May, 2018
通过引入不等式约束条件,我们可以采用有限维高斯方法来处理线性不等式集,并探索使用马尔可夫链蒙特卡洛技术来近似后验分布,研究了关于协方差参数估计的约束似然函数的理论和数值特征。实验证明基于哈密顿蒙特卡洛取样器的全框架能够提供有效的数据拟合和不确定性量化结果。
Oct, 2017
提出了一种新的深度学习范例 —— 差分流,其通过先学习输入的随机微分方程变换,再进行标准分类或回归处理。微分高斯过程的关键属性是通过无穷深度但无穷小的微分场对输入进行扭曲,将离散层推广为动态系统,证明了其优于深度高斯过程和神经网络的最先进成果。
Oct, 2018
本文提出一种基于 Lanczos 算法的方法 LOVE(LanczOs Variance Estimates)来解决高斯过程回归的计算瓶颈,大大提高了协方差的计算效率和采样速度。
Mar, 2018
提出了一种新的贝叶斯非参数方法,以在非欧几里德域上学习平移不变的关系。 该方法可应用于机器学习问题,其中输入观测值是具有普通图形域的函数。 并将图卷积高斯过程应用于图像和三角形网格等领域,表明了其多功能性和有效性,与现有方法相比具有优势,尽管是相对简单的模型。
May, 2019