Jun, 2020

神经 MCMC 的深层卷积生成模型

PDF
TL;DR本研究提出了一种新的深度生成式建模框架 —— 深度阶元生成模型，并将其用于定义新的快速神经 MCMC 算法 ——Involutive Neural MCMC，该算法可在包含辅助变量的状态空间上，通过易于计算的接受率完成 Metropolis-Hastings 更新，从而高效探索多模态分布和快速收敛。
deep involutive generative modelsinvolutive neural mcmcprobability kernelsvolume-preservingauxiliary variable scheme
发现论文，激发创造
  • 利用概率和可微编程自动化 Involutive MCMC

    该论文描述了一种自动化实现根据概率编程系统中的 Involutive MCMC 核函数的技术，并且利用此技术来检测用户在核函数规范中的错误并利用核函数中的稀疏性以提高效率。

    Jul, 2020

  • 可逆 MCMC：一个统一的框架

    本文介绍了一种名为 iMCMC 的框架，它提供了一种统一的视角来描述各种 MCMC 算法，并提供了一些指导新算法设计的技巧。两个例子展示了如何将已知的可逆 MCMC 算法转化为更高效的不可逆算法。

    Jun, 2020

  • 非参数的 Involutory Markov Chain Monte Carlo

    我们提出了非参数的纠缠马尔科夫链蒙特卡罗（NP-iMCMC）算法，作为一种构建用于普通概率编程语言（PPL）可表示的非参数模型的 MCMC 推理算法的方法。该方法建立在统一的纠缠 MCMC 框架之上，并通过提供一个在维度之间驱动状态移动的一般性过程，表明了 NP-iMCMC 可以推广许多现有的 MCMC 算法以用于非参数模型。

    Nov, 2022

  • 使用双重随机 MCMC 学习深度生成模型

    本文介绍了倍增随机梯度 MCMC 这一简单通用的方法，用于在折叠的连续参数空间中对深度生成模型进行（近似）贝叶斯推理。我们的方法不仅适用于密度估计和数据生成的任务，还可以用于缺失数据的填充，且在性能方面优于许多现有的竞争对手。

    Jun, 2015

  • Ai-Sampler: 用逆映射进行马尔可夫核的对抗学习

    用可逆神经网络构建的逆变 Metropolis-Hastings 核函数以保证细致平衡，通过参数化和训练马尔可夫链的转移核函数来实现高效采样和良好的混合，以最小化链的稳态分布与数据的经验分布之间的总变差距离。

    Jun, 2024

  • 可微生成模型的渐近精确推断

    该研究介绍了一种在观测条件下，对生成模型进行高效的 MCMC 推断的方法。使用基于哈密顿蒙特卡罗的常约束变体来利用流形的平滑几何，无需近似贝叶斯计算，从而进行精确的推断。

    May, 2016

  • 具有能量分布概率评估的深度有向生成模型

    本论文提出了一种利用生成对抗网络（GAN）和基于深度神经网络的生成模型来代替 MCMC 模型的方法，通过训练这种模型生成的采样分布近似匹配待训练的能量函数。

    Jun, 2016

  • 非线性贝叶斯反演的高效几何马尔可夫链蒙特卡罗方法，由导数信息的神经运算符提供支持

    我们提出了一种运算学习方法来加速几何马尔可夫链蒙特卡罗（MCMC）用于解决无限维非线性贝叶斯反问题。

    Mar, 2024

  • 用深度自回归模型高效变分模拟多体量子系统

    使用一种新的神经网络架构代替马尔科夫链蒙特卡洛（MCMC）采样方法来支持高效和精确的量子状态预测，这种方法在二维相互作用自旋模型中验证了其精确性和可扩展性。

    Feb, 2019

  • 基于生成方法的不确定性量化

    使用增量生成蒙特卡洛（IGMC）方法，可以使用深度生成方法来衡量深度神经网络的不确定性。IGMC 通过迭代训练生成模型，并将其输出添加到数据集中，计算随机变量的期望的后验分布。我们提供了关于 IGMC 相对于样本大小和采样深度的收敛速率的理论保证。由于 IGMC 与深度生成方法兼容，因此适用于神经网络分类和回归任务。我们在 MNIST 数字分类任务上对 IGMC 的行为进行了经验研究。

    Oct, 2023