hamiltonian monte carlo has proven a remarkable empirical success, but only
recently have we begun to develop a rigorous understanding of why it performs
so well on difficult problems and how it is best applied in practice.
Unfortunately, that understanding is confined within the mathe
本文主要介绍了蒙特卡罗方法在科学计算中的重要性，包括马尔可夫链，详细平衡，临界减速和遍历性，以及通过数值研究二维铁磁体的临界行为来说明 Monte Carlo 方法的应用。此外，还介绍了高级的 Monte Carlo 方法（例如 Wolff 群簇算法和并行传递 Monte Carlo 算法）并使用玻璃状态的物理模型进行了说明。最后，本文提出了一种采用指导函数的蒙特卡罗抽样方法来研究稀有事件的方法。
提出了基于相对论动力学的哈密顿蒙特卡罗方法，通过引入粒子的最大速度解决哈密顿蒙特卡罗在大时间离散化和空间几何不匹配时的性能问题，并开发了基于此的相对论随机梯度下降算法，与深度学习中的优化方法如梯度截断、RMSprop、Adagrad 和 Adam 有趣的关系，实验表明这种算法比经典牛顿变体和 Adam 表现更好。