本研究提出了一种基于信息几何学的优化方法，使用自适应的、时变的、基于分位数的目标函数变换进行自然梯度上升。该方法不假设目标函数是可优化的，并通过时间离散化产生具体算法。理论上显示该算法最小化了多样化的损失，初步实验也展示了该算法具有在单次运行中做多次全局探索的能力。

Jun, 2011

Information-Geometric Optimization 是一种利用概率分布族和 Fisher metric 来优化适应性函数的方法，透过自适应变换及更新参数来优化目标函数，其适用于不同概率分布族，如 Bernoulli 及 Gaussian 分布族及指数族；本文证明其任何小于等于 1 的步长都能保证上升的单调改进，并延伸到涉及到不同步长及被选择的个体的情况下。

Nov, 2012

通过使用协方差矩阵适应 (CMA) 策略，本文提出了一种新的技术，用于定义具有高概率包含全局最优解的局部区域，从而在局部区域内使用贝叶斯优化 (BO) 来优化目标函数。我们的方法作为元算法，能够结合黑盒子优化器，如 BO、TuRBO 和 BAxUS，在我们得到的局部区域内找到目标函数的全局最优解，并在各种基准合成和真实问题上进行了评估，结果表明我们的方法优于现有的尖端技术。

Feb, 2024

这项工作提供了一种有效的 CMA-ES 协方差矩阵适应进化策略的抽样方法，采用混合模型生成变异向量，简化了数量庞大的实验中寻优问题的复杂性。

Mar, 2022

我们提出了一种运算学习方法来加速几何马尔可夫链蒙特卡罗（MCMC）用于解决无限维非线性贝叶斯反问题。

Mar, 2024

本文提出使用 CMA-ES 算法作为深度神经网络超参数优化的一种可行的选择，通过一个 MNIST 数据集的卷积神经网络的 toy experiment，对比了 CMA-ES 和 Bayesian 优化算法在 30 个 GPU 并行计算下的效果。

Apr, 2016

高维问题一直被认为是贝叶斯优化算法的致命软肋。本文通过识别导致标准贝叶斯优化在高维任务中性能不佳的退化情况，并通过减少模型复杂性的角度探究现有算法如何应对这些退化情况。此外，我们提出了一种增强对标准贝叶斯优化算法中先验假设的修改方法，通过与维度进行简单缩放的高斯过程长度尺度先验，揭示了在高维情况下标准贝叶斯优化比以往认为的表现要好得多，明显优于多个常见的真实高维任务的现有最先进算法。

Feb, 2024

本文从信息几何的角度探讨了协方差矩阵自适应进化策略（CMA-ES）的理论基础，并得出一些关键性的结论，包括 CMA-ES 中抽样分布参数的更新与期望适应性的自然梯度学习等存在密切联系。

Jun, 2012

本文介绍了一种将高斯过程置信度边界和树形同时乐观的优化相结合的技术，以消除对收购功能辅助优化的需求，并且相比于其他方法更为有效。

Feb, 2014

该论文提出了一个几何统计分析框架，适用于泛化的不适定线性反问题模型，包括噪声压缩感知、符号向量恢复、迹回归、正交矩阵估计和噪声矩阵完成等特殊情况，提出了可行的计算凸规划方法，用于统计推断，包括估计、置信区间和假设检验。该论文建立了一个理论框架，以表征局部估计收敛速度，并提供统计推断保证，其结果基于局部锥几何和对偶性，并通过高斯宽度和 Sudakov 最小化估计量表征局部切锥的几何。

Apr, 2014