Sep, 2023

分布式变分推断在在线监督学习中的应用

PDF
TL;DR开发智能传感器网络推理问题的高效解决方案对于下一代位置、跟踪和地图服务至关重要。本文开发了一种适用于连续变量、难以处理的后验概率和大规模实时数据的可扩展分布式概率推理算法。
inference problemsintelligent sensor networksscalable distributed probabilistic inference algorithmvariational inferenceonline distributed algorithm
发现论文，激发创造
  • 近似去中心化贝叶斯推断

    本文提出了一种在分散型学习代理网络上执行贝叶斯推断的近似方法，该方法首先对每个学习代理使用变分推断生成本地近似后验，代理将本地后验传输到网络中的其他代理，最后每个代理组合其收到的本地后验。实验结果表明，这种分散式方法在计算性能和预测测试可能性方面具有优势。

    Mar, 2014

  • 变分推断的进展

    本文综述了变分推断中的最新趋势，介绍了标准的均值场变分推断，然后回顾了最近的进展，包括可扩展的 VI，通用的 VI，准确的 VI 以及摊余的 VI，并提供有关未来研究方向的总结。

    Nov, 2017

  • 自动编码变分贝叶斯

    本文介绍了一种基于随机变分推理 (Variational Inference) 的学习算法，可以为存在潜变量的、具有难以处理的后验分布的连续概率模型提供有效的推理和学习方法，特别是在大型数据集下具有较好的表现，且已经在实验上得到了验证。

    Dec, 2013

  • 变分推断：统计学家综述

    本文通过机器学习中的变分推断方法近似计算难以计算的概率密度，特别地，本文对变分推断的思想和现代 VI 研究中的重要问题进行了全面的讨论。

    Jan, 2016

  • 传感器网络中的分布式贝叶斯估计：边缘概率密度的共识

    设计和分析用于传感器网络的分布式贝叶斯估计算法，涉及协同定位、联邦学习和使用变分推断处理非线性似然模型的映射问题。

    Dec, 2023

  • 随机变分推断

    本研究开发了基于随机变分推断的可伸缩算法，用于逼近后验概率分布，并且针对一类大规模的概率模型进行了技术开发；对两个概率主题模型进行了演示并应用于大量文献数据的分析，其中包括自然杂志、《纽约时报》和维基百科，结果表明随机变分推断可轻松处理大型数据集并优于传统变分推断，并且表明贝叶斯非参数主题模型优于参数主题模型；因此基于随机变分推断的算法可以将复杂的贝叶斯模型应用于大规模的数据集。

    Jun, 2012

  • 变分推理，高斯混合模型，贝叶斯机器学习

    通过优化固定协方差和常值权重的高斯混合模型，将变分推断（Variational Inference）视为最小化平滑相对熵，研究其在非高斯情况下的理论性质，包括梯度下降和粒子系统优化。

    Jun, 2024

  • 深度贝叶斯模型的改进变分推理

    深度学习和贝叶斯深度学习使用变分推断和边缘似然来进行后验推理和模型选择。

    Jan, 2024

  • 分布式变分表示学习

    研究了分布式表示学习的问题，提出了信息瓶颈方法的分布式模型，并探究了离散记忆和向量高斯数据模型下的最优复杂性 - 相关性折衷。通过两种算法计算并优化编码映射，证明了该方法在真实数据集上的有效性。

    Jul, 2018

  • 大规模贝叶斯压缩感知中的高效变分推断

    本研究使用贝叶斯压缩感知框架从概率学的角度研究了重尾先验下的线性模型，并借助基于随机场的 Perturb-and-MAP 算法提出了一种高效的方法近似估计高斯方差，实现对完整后验分布的捕捉及模型参数的学习并通过实验在图像去模糊中得到了良好效果。

    Jul, 2011