Oct, 2018

高斯过程条件密度估计

PDF
TL;DR本文介绍了一种基于高斯过程的贝叶斯条件密度估计方法，利用隐变量来扩展模型输入，可以应用于小数据集和大数据集，有效地建模稀疏数据区域和多条件共享结构，并应用于出租车乘客下车的时空密度估计、非高斯噪声建模以及少样本学习的实际问题。
conditional density estimationgaussian processesbayesian approachstochastic variational inferencespatio-temporal density estimation
发现论文，激发创造
  • 条件密度估计的噪声正则化

    提出了一种基于噪声正则化的条件密度估计方法，可解决神经网络模型在训练过程中容易出现过拟合的问题，并经实验证明在七个数据集和三种 CDE 模型上均取得了显著且一致的效果，在训练数据稀缺时也比之前的非参数化和半参数化方法更具优势。

    Jul, 2019

  • 将高维回归转换为高维条件密度估计

    使用非参数条件密度估计器，提出了一个全新的 CDE 方法 FlexCode，并对其在高维数据上的表现进行了理论和实证研究。

    Apr, 2017

  • 贝叶斯条件密度滤波

    本论文提出了一种新的条件密度滤波算法（C-DF），用于有效的在线贝叶斯推断，通过在新数据到达时从条件后验分布的近似中采样，利用统计量消除了同时存储或处理整个数据集的需求，从而提高了内存需求和运行时长，改善了混合度，并展示了其在高维压缩回归中的应用。同时，本文证明了 C-DF 样本随着采样的进行和数据的增多而渐近地收敛于目标后验分布。

    Jan, 2014

  • 快速非参数条件密度估计

    通过建立 full density 模型 f (yjx) 而非只有期望值 E (yjx)，条件密度估计广义了回归。本文提出了双核条件密度估计器，并引入了基于双数树的快速算法，用最大似然准则进行带宽选择，从而在处理多变量数据集时取得 380 万倍的加速。

    Jun, 2012

  • 一个判别性贝叶斯高斯过程潜变量模型用于高维数据

    我们提出了一种新的非参数建模方法 LDGD，利用高斯过程（GP）将高维数据映射到潜在的低维流形，通过推断潜变量来有效捕捉数据中的不确定性，提高了模型的预测准确性和鲁棒性。LDGD 不仅能准确地推断流形，而且在预测标签方面的准确性也超过了现有的方法。我们还通过引入诱导点来降低大型数据集中高斯过程（GP）的计算复杂度，实现了批处理训练，提高了处理大规模数据集的效率和可扩展性。此外，我们证明了 LDGD 在预测有限的训练数据标签方面的较高准确性，突显了它在数据可用性受限的场景中的效率和有效性。这些特点为高维数据分析中非参数建模方法的发展奠定了基础，特别是对于高维且复杂的数据领域。

    Jan, 2024

  • SigGPDE：在序列数据上扩展稀疏高斯过程

    本文我们提出了 SigGPDE，它是一个新的可扩展的稀疏变分推理框架，用于处理序列数据上的高斯过程。我们的贡献有两个方面：首先，我们构造了诱导变量来支撑稀疏近似，使得得到的证据下限 ELBO 不需要任何矩阵求逆；其次，我们展示了 GP 签名核的梯度是一个双曲型偏微分方程（PDE）的解，这一理论洞见使我们能够构建一个有效的反向传播算法来优化 ELBO。通过展示 SigGPDE 相对于现有方法的显着计算收益，同时在多达 1 百万个多元时间序列的大型数据集上实现最先进的分类任务性能。

    May, 2021

  • CGNSDE：用于建模复杂系统和数据同化的条件高斯神经随机微分方程

    发展了一种基于知识和机器学习的混合建模方法，称为条件高斯神经随机微分方程（CGNSDE），旨在模拟复杂动态系统并实现相关数据同化的分析公式。

    Apr, 2024

  • 隐私保护数据的条件密度估计

    在该研究中，我们提出了基于模拟的隐私保护数据集推理方法，利用神经条件密度估计器近似后验分布，纠正隐私保护机制引入的偏差，并展示了隐私与效用之间的权衡的必要性和可行性。

    Oct, 2023

  • 深高斯过程

    本文介绍了深度高斯过程模型，该模型可用于稀少数据的拟合，以及通过贝叶斯方法进行模型选择。

    Nov, 2012

  • 具有深度卷积高斯过程的贝叶斯图像分类

    本研究提出了一种翻译不敏感的卷积核，并将高斯过程重新制定为多输出高斯过程，以实现深度卷积高斯过程。实验证明，与使用 dropout 的贝叶斯深度学习方法相比，我们的全贝叶斯方法在不确定性和边际似然估计方面的性能有所提高。

    Feb, 2019