对数配分函数的一类新上界
该研究证明了:对于任何具有二元变量的图模型,其势函数(不一定是成对的)都是对数超模的,并且 Bethe 近似总是能提供一个真正分区函数的下界。此结果源自于 “四个函数” 定理的新变体。
Feb, 2012
本文介绍了一种改进的算法,基于分析 Bethe 自由能的一阶导数,能为吸引二元成对最大团场提供全多项式时间近似方案(FPTAS),该方法适用于一般的(非吸引性)模型,这个算法能够在都不收敛情况下,为杂乱电力网络中设备失效预测提供良好的表现。
Dec, 2013
研究表明,Bethe 分区函数始终小于二元、对数超模的图模型的真实分区函数。此外,这些结果还可以推广至其他有趣的图模型,例如具有均匀外场的铁磁 Potts 模型和其通用和特殊类带权图同态问题。
Sep, 2013
我们以具有未知均值的高斯分布的抽样为动机示例,通过扩散生成模型提供了在强对数凹数据分布假设下的收敛性行为的全面理论保证。我们的评估函数类使用的逼近是利普希茨连续函数,同时通过与相应的抽样估计相结合,对于与数据分布之间的 Wasserstein-2 距离等关键量感兴趣的最佳上界估计提供了显式估计。该论文还引入了基于 L2 准确评分估计假设的结果,以适用于各种随机优化器。该方法在我们的抽样算法上得到了已知的最佳收敛速度。
Nov, 2023
本文提出了一种使用神经网络和激活函数来实现凸函数和对数对数凸函数的通用逼近器,其中得到的模型可通过凸优化和几何规划来有效设计和优化。
Jun, 2018
本文利用随机变量的最大统计量将分区函数与之相关联,提供了一种新的框架,通过随机扰动模型上的 MAP 推断来近似和限制分区函数,从而可以使用图割等高效 MAP 求解器来评估相应的分区函数,证明我们的方法在典型的 “高信号 - 高耦合” 区域中表现出色,这导致了难以处理的凹凸不平的能量景观。
Jun, 2012
本篇研究文章探讨了针对各种概率模型使用 Kullback-Leibler 距离的模型选择类型聚合问题。文章提出了两种聚合方法,并使用惩罚极大似然准则选择聚合权重,给出了高概率的锐利的神谕不等式和相应的下界结果。
Jan, 2016
该论文提出了与指数型分布家族相关的尾部概率新不等式,这些分布包括泊松分布、伽马分布、二项分布、负二项分布和倒数高斯分布。所有这些不等式都以有符号对数似然函数为表述,并且这些不等式是定性的,表述用随机支配或者交集属性,即某个离散分布非常接近于某个连续分布。
Jan, 2016
提出了一种新的 PAC-Bayesian 界并构建了假设空间,使界在后验分布上是凸的,在经验性能与复杂性之间的折衷参数上也是凸的。通过 KL 散度来测量复杂性。提出了一种交替过程来最小化这个界,并给出了一个足够的条件,使得函数具有单一的全局最小值。提供实验结果表明,严格最小化该界在调整复杂性和经验性能之间的权衡方面与交叉验证相媲美。在所有实验中,即使违反了足够的条件,折衷结果仍然是凸的。
Aug, 2016
本论文探讨了 18 种基于概率图模型的分区函数的估计方法,并经过广泛的基准实验进行了严格的实证研究。研究发现精确技术与近似技术的效率是相同的,因此我们对设计具有增强可扩展性的近似技术的机会持乐观态度。
May, 2021