variational bounds | BriefGPT

关键词variational bounds

搜索结果 - 7

ICLR利用退火和基于能量的上下界提高互信息估计
本文提出了基于重要性采样的互信息估计方法，包括基于多样本退火重要性采样的全局互信息界限、基于广义 IWAE 的边际互信息界限和基于 MCMC 采样的更紧密的边际互信息界限。在深度生成模型中应用实验，取得了比现有界限更高的性能。
PDFa year ago
ICML使用本地增强边界进行层次模型的变分推断
本文提出了一种基于收紧方法的层次模型变分下界的变分方法，该方法可以自然地使用子采样以获得无偏梯度，并在较低维度空间中独立地应用紧缩较低下界的方法，以获得比相关基线更好的结果和更准确的后验近似。
PDF2 years ago
向变分紧致性攀登之路：单调性和蒙特卡罗目标
本文重访重要性加权变分推断理论，提供了一系列的数理统计理论证明，阐述了蒙特卡罗求解的样本数量与变分界限的紧度之间的关系，以及负相关性可以降低变分差距等内容，这有助于更好地研究拉普拉斯近似、新型均值场推断等领域。
PDF2 years ago
ICML互信息的变分上下界
本文提供了通用的、数据无关的 Mutual Information 估计方法，其中包括新的下限估计器。通过实验测试我们的方法在高维问题中具有强大的表现，特别是在变量之间存在非线性关系时。
PDF5 years ago
异质多输出高斯过程预测
本文提出了一种新的多输出高斯过程扩展方法，用于处理异构输出，此方法使用向量值高斯过程先验来联合建模所有似然函数中的参数作为潜在函数，并以线性模型为核心的协同关系形式使用协方差函数；在假设潜在函数之间存在条件独立性并利用引导变量框架的前提下，
PDF6 years ago
修复破损的 ELBO
本文讨论了深度非监督学习中最大化证据下限（ELBO）的训练方法，并推导了输入与潜变量之间互信息的下限和上限，进而通过率失真曲线描述了压缩和重构准确性之间的平衡，并提出了一个新的方法来避免强大的随机解码器忽略它们的潜变量。
PDF7 years ago
自适应（非）凸优化的模块化分析：乐观主义、复合目标和变分界限
本文通过引入新的后悔分解和 Bregman 散度的泛化来对在线学习的两个算法进行分析，得出了较为简洁的结论，提出了对于复合目标的算法，并提供了一种细化的算法族。
PDF7 years ago