利用多层次马尔可夫链蒙特卡洛 (MCMC) 抽样算法的低保真机器学习模型，本文提出了一种有效的方法来加速大规模问题的抽样。通过在层次结构框架中将高保真模型与低保真模型相结合，我们的方法提供了一种计算高效的替代方案，以改善样本的接受率。我们的技术在地下水流问题中获得了相似的准确性，同时将多层抽样加速了两倍。

May, 2024

我们在深度对冲的例子中，通过提出的延迟多层蒙特卡洛（MLMC）梯度估计器，证明了我们的方法在与 SGD 中标准 MLMC 相比的优越的并行复杂度。

Oct, 2023

我们引入了上下文随机双层优化（CSBO）—— 一种在下层问题最小化给定某些上下文信息和上层决策变量条件下的期望的随机双层优化框架。该框架扩展了经典的随机双层优化，使得下层决策者不仅对上层决策者的决策做出最优响应，还对一些侧面信息做出响应，并且存在多个甚至无数个追随者。它涵盖了元学习、个性化联邦学习、端到端学习和侧面信息的 Wasserstein 分布鲁棒优化等重要应用。由于存在上下文信息，现有的经典随机双层优化的单循环方法无法收敛。为了克服这个挑战，我们引入了一种基于多层蒙特卡罗（MLMC）技术的高效双循环梯度方法，并建立了其样本复杂度和计算复杂度。当专门应用于随机非凸优化时，我们的方法与现有下界相匹配。对于元学习，我们的方法的复杂度不依赖于任务数量。数值实验进一步验证了我们的理论结果。

Oct, 2023

该论文提出了一种高效的随机优化算法，通过引入随机多层次蒙特卡洛（MLMC）方法，使用无偏的蒙特卡罗估计器求解期望信息增益的梯度，该算法具有较高的性能，可以用于搜索最优的贝叶斯实验设计，适用于简单测试问题和现实药代动力学问题。

May, 2020

本文介绍了一种新的多级蒙特卡罗（MLMC）估计器，用于由布朗运动驱动的多维 SDE。通过构造适当的对偶多级校正估计器，我们能够避免模拟 Lévy 面积，即使只有 O（Δt^(1/2)）的收敛性，也能实现平滑和分段光滑支付的 O（Δt²）和 O（Δt^(3/2)）方差的 MLMC 及 O（ε^（-2））估计欧式和亚式看涨和看跌期权价格的复杂度。

Feb, 2012

LLAMBO 是一种将大型语言模型（LLM）与贝叶斯优化（BO）结合的方法，通过在自然语言中提出有前景的解决方案，利用上下文理解、少样本学习能力和 LLM 的领域知识来增强基于模型的 BO 的各个组件，特别是在稀疏的观测阶段，LLAMBO 在零样本热启动、代理模型和候选样本的改进方面表现出有效性。

Feb, 2024

本研究使用 Markov chain Monte Carlo 算法通过局部探索复杂的统计分布进行模拟，加速收敛的技术包括 tempering 和 Hamiltonian Monte Carlo 等方法。

Apr, 2018

提出一种名为双向蒙特卡罗的技术，利用混合重要性采样或序列蒙特卡罗方法获得模型的准确对数边缘似然估计的随机下限和随机上限，并使用该方法获得的对数边缘似然估计真值对多种现有的最大似然估计器进行 quantitative 评估，并从中得出关于如何准确估计边缘似然估计的 insights。

Nov, 2015

提出了一种新的元学习贝叶斯优化方法，通过直接学习任务间查询的效用来解决现有方法在规模可扩展性、观测尺度和噪声类型上的限制，明确建模任务不确定性，并使用辅助模型实现对新任务的稳健适应，在各个基准测试中展现了强大的即时性能，并优于现有元学习贝叶斯优化方法。

Jul, 2023

提供用于优化昂贵黑匣子函数的一种多步先见性贝叶斯优化方法，采用多步方案树内嵌化简的方法，通过高效的多步高斯过程虚拟化实现，超过现有方法的表现。

Jun, 2020