使用归一化流改进高斯过程
本文提出了一种贝叶斯方法,通过非标准变分推理框架在GP-LVM中近似积分出潜在变量,从而通过最大化解析较低下界的确切边缘似然来训练GP-LVM,在学习非线性动态系统方面具有鲁棒性和自动选择非线性潜在空间维数的能力。
Sep, 2014
本文提出了一种变分高斯过程(VGP)方法,该方法是一种贝叶斯非参数变分方法,利用随机非线性映射生成近似后验样本,适应于复杂的后验分布,且通过学习随机映射的分布来使之适应于不同的复杂度,该方法在无监督学习中实现了最新的最佳结果。
Nov, 2015
本文介绍了Sylvester标准化流,其可以作为平面流的一般化,Sylvester标准化流消除了平面流中存在的单个单位瓶颈,并使单个变换更加灵活,相对于平面流和逆自回归流,在多个数据集上展示了更好的性能表现。
Mar, 2018
本篇论文研究了在多任务高斯过程模型中如何持续不断地学习处理顺序输入输出观测值的问题,提出了基于在线贝叶斯推断先验——后验递归的方法,并结合诱导输入的稀疏近似引入了变分推断。通过该方法得到了可行的无限条件下界,并在自然情况下引入两个新的KL散度。本研究方法的关键技术是基于条件GP先验的递归重构,实现了对迄今为止学习到的变分参数的条件GP先验的递归重构。同时,该方法适用于许多类型的连续或离散的顺序观测,并且适用于可能出现潜在的多通道或异构观测值的场景。广泛的实验证明该方法具有可扩展性,表现可靠,并且对合成和真实世界的大量数据集的误差传播具有鲁棒性。
Oct, 2019
我们提出了“变分流模型”作为“后验流”的广义概率流模型的变分推断解释,并提出了一种无需训练的方法来将“线性”随机过程的后验流转化为直速常数速度(SC)流,便于沿着原始后验流进行快速采样。我们的方法的灵活性允许我们在不同的“线性”随机过程中进行两个后验流的相互转换,同时可以轻松地将高阶数值解算器集成到转换后的SC流中,进一步提高采样精度和效率。严格的理论分析和大量的实验结果证实了我们的框架的优势。
Feb, 2024