BriefGPT.xyz
May, 2023
最优预处理与费舍尔自适应 Langevin 采样
Optimal Preconditioning and Fisher Adaptive Langevin Sampling
HTML
PDF
Michalis K. Titsias
TL;DR
本文提出了一种基于最优先决条件的 Langevin 扩散优化方法,使用 Fisher 信息协方差矩阵作为最优先决条件,通过一种自适应 MCMC 方法从目标函数的梯度历史中学习先决条件,实现了在高维数据中的高效数据采样与处理。
Abstract
We define an
optimal preconditioning
for the
langevin diffusion
by analytically maximizing the expected squared jumped distance. This yields as the
→