- 最小卷积潜空间中带有条件 Sinkhorn 生成对抗网络的贝叶斯反问题
利用最少体积这一新颖的非监督非线性降维方法解决高维、非线性和模型不确定性等问题,从而实现后验推断,为逆问题提供了潜在条件生成模型的训练方法。
- 贝叶斯核心集质量的一般界限
Bayesian coresets can speed up posterior inference by approximating the full-data log-likelihood function with a surroga - ASPIRE:基于迭代的摊销后验推理方法用于贝叶斯反问题
AMORTIZED 模式的后验推理的 ASPIRE 方法,基于物理和迭代重构的总结统计量,是一种计算高效且高保真度的方法。
- 深度贝叶斯模型的改进变分推理
深度学习和贝叶斯深度学习使用变分推断和边缘似然来进行后验推理和模型选择。
- 使用 TAP 自由能的平均场变分推断:线性模型中的几何和统计性质
在高维度的贝叶斯线性模型中,通过最小化 TAP 自由能量,我们展示了一种局部最小化算法,提供了与后验边际一致的估计,并可用于正确校准的后验推断。在一定的一般条件下,这种局部最小值可以通过 Approximate Message Passin - 利用可微的覆盖概率校准神经仿真推断
引入校准项到神经模型的训练目标中,通过放松经典校准误差公式,我们提出了一种方法来解决现有算法对后验不确定性估计准确性的挑战,该方法适用于现有计算流程,实现可靠的黑盒后验推断,并在六个基准问题上经验证明具有竞争性或更好的结果。
- BayesDAG:用于因果发现的基于梯度的后验抽样
基于随机梯度马尔可夫链蒙特卡洛 (SG-MCMC) 的可伸缩贝叶斯因果关系发现框架,无需任何有向无环图 (DAG) 正则化约束,直接从后验中采样有向无环图 (DAG),同时绘制函数参数样本,适用于线性和非线性因果模型。基于合法的等价关系,我 - ICML时间序列结构发现的连续蒙特卡洛学习
该论文介绍了一种自动发现复杂时间序列数据准确模型的新方法,该方法通过贝叶斯非参数先验和符号空间上的高斯过程时间序列模型,以及蒙特卡洛方法和马尔可夫链蒙特卡洛方法的结合进行有效的后验推断。实证测量表明,相比以往的马尔可夫链蒙特卡洛方法和贪心搜 - 重新审视结构化变分自编码器
通过现代机器学习工具来实现硬件加速、并行化和自动微分的消息传递算法,探讨并展示了 SVAE 模型的优势,从而表明现在是重新审视结构化变分自编码器的时候了。
- 无限宽的贝叶斯神经网络中权重无界方差下的后验推断
针对具有无界方差的神经网络权重的后验推断问题,提供了一种可解释且计算高效的条件高斯表达方法。该方法可利用高斯过程机器进行可行的后验推断和不确定性量化。
- ICLR基于图神经网络的高斯过程半监督学习核函数
本文介绍了如何将图神经网络中的归纳偏置引入高斯过程中,以优化其在图结构数据上的预测表现,并得出了一些有趣的成员和提出了一种适用于大规模数据后验推断的协方差矩阵的近似方法,通过这些基于图的协方差矩阵,与相应的图神经网络相比,具有相似的分类和回 - ICML可处理的结构学习不确定性
本文介绍了一种名为 TRUST 的框架,利用概率电路表示后验信念,通过推理查询可以更好地捕捉有向无环图(DAG)的空间,进而提高结构推断质量和后验不确定性,并在条件查询中展现了 TRUST 的实际效用。
- ICLR通过主题建模理解自监督学习的鲁棒性
本研究从主题建模的角度着手,证明了基于重建或对比样本的自监督目标都可以为一般主题模型恢复有用的后验信息,并在实验证明了同样的自监督目标表现可以与使用正确模型的后验推断相媲美,而优于使用错误模型的后验推断。
- 基于梯度的马尔可夫链蒙特卡罗用于带有不可微先验的贝叶斯推断
本文提出了一种使用欠阻尼 langevin 动力学的 Moreau-Yosida 近似的新实现方法,以及使用分段确定马尔可夫过程(PDMP)进行准确后验推断的方法。这两种采样方法使用范围更广泛,具有更好的采样精度。
- ICLR通过后验平均实现联邦学习:一个新的视角和实用算法
以后验推断方法为基础的联邦学习算法可以通过在客户端推断本地数据的后验分布来推断全局后验分布,而 FedPA 则提供了一种计算和通信高效的近似后验推断算法,使用 MCMC 进行客户端的近似推断。
- 通过局部线性化改进贝叶斯神经网络的预测
本文提出了一种基于广义高斯牛顿近似方法的贝叶斯神经网络预测方法,将原始预测模型线性化为广义线性模型(GLM)后,用于后验推理和预测中,解决了拉普拉斯近似方法下的欠拟合问题。在多个标准分类数据集上以及外部分布检测中得到了验证。
- IJCAI对称性 alpha 稳定赌臂问题的汤普森采样
该文章重新考虑了 Thompson Sampling 算法在来自对称 α- 稳定分布的奖励下的应用,提出了一个有效的后验推断框架,证明了两种算法的有限时间遗憾界,并通过一系列的实验展示了 Thompson Sampling 在此环境中更强的 - ICML无似然马尔可夫蒙特卡洛与分摊的近似比率估计器
该研究提出了一种解决在科学领域中使用高级计算机模拟时出现的后验推断问题的新方法,这种方法使用学习的灵活的摊销估计量来近似似然 - 证据比率,并可以嵌入 MCMC 采样器中以从难以处理的后验中获得样本。
- ICML变分预测自然梯度
本文提出一种新的自然梯度 VPNG,用于解决传统自然梯度在变分参数强烈相关的情况下不能修正相关性的问题,并在分类任务、图像生成模型和概率矩阵分解等方面进行了实证验证。
- ICLR贝叶斯神经网络的函数空间粒子优化
本文提出了一种在回归函数空间中直接执行粒子优化的方法,以克服高维和过度参数化的贝叶斯神经网络(BNN)的后验推断挑战,并在许多任务中取得了良好的表现,包括预测、对抗样本防御和强化学习。