多尺度稀疏微正则模型
微正则梯度下降是一种用于高维分布高效采样的能量模型采样过程,通过使用梯度下降从高熵分布(如高斯白噪声)将样本传输到低能量区域。我们将这个模型放置在归一化流框架中,展示它常常通过在下降过程中损失了不必要的熵而过拟合。为了解决这个问题,我们提出了一种多场微正则梯度下降法,同时采样多个弱耦合数据点,以更好地控制熵损失,并在可能度拟合方面几乎不付出代价。我们在金融时间序列的背景下研究了这些模型,展示了在合成和真实数据上的改进。
Mar, 2024
研究了长程相互作用系统的统计和热力学基本性质,证明了系统的微、正则系综在高温下是等价的,并使用 Gaussian concentration bound 对正则系综与微正则系综的热力学性质差异进行了界定。
Jun, 2019
在统计力学的三个层面(热力学、平衡宏态和微态测量)中,只要在热力学极限下微正则熵是能量密度的凹函数,就可以证明所有经典多粒子系统的微正则系综和正则系综是等价的,这适用于具有大偏离原理定义的热力学函数和平衡宏观状态的任何系统,并推广了以前针对特定类别系统和可观察量获得的许多结果。对于其他二元系综,如正则系综和巨正则系综,以及用于描述稳态驱动的非平衡系统的路径系综,类似的结果也成立。
Mar, 2014
本文研究了在数据量大、似然不为高斯分布和协方差函数参数后验估计方面如何高效地计算,提出了一种稀疏的变分近似方法和混合蒙特卡洛采样策略,实现了同时估计函数值和协方差参数。
Jun, 2015
本篇论文提出了一种组合变分方法和光谱表示的高斯过程近似算法,通过研究高斯过程的光谱特征和协方差,进行了相关推导和分析,并将该算法应用于 Matern 核和高维数据的处理中,结果表明该算法在计算速度和精度方面都表现出色。
Nov, 2016
本文研究了 Markov 链蒙特卡罗采样在无监督最大似然学习中的效果,发现使用 ConvNet 势函数训练的最小框架可以实现高质量的短时合成,同时使用正确的 Langevin 噪声调整可以实现长时稳定采样;但使用收敛困难的 MCMC 训练 ConvNet 将导致样本失真。
Mar, 2019
本文研究用于离散点过程的快速混合马尔可夫链蒙特卡罗采样的系统设计机制,探究了设置条件和误差限制的方法,提出了如何使用 Hessian 量来控制分解信息量,指出如果使用自然的相关性衰减概念,可以使用快速混合的 MCMC 方法导出较小的误差上限。
Jun, 2015
提出了一种基于 Hamiltonian 动力学的新型采样方法,这种方法通过非牛顿动量在超过状态空间中的确定性动力学下,从指定的能量函数中精确地采样出目标分布,比传统的 MCMC 方法收敛更快且无需随机步骤,并且可以用现有的 ODE 解算器求解。
Nov, 2021