Jun, 2022

高斯 - 埃尔米特积分的期望超体积改进的高效近似

PDF
TL;DR使用 Gauss-Hermite 积分作为新的求解多目标优化问题的方法，比起传统的蒙特卡罗模拟方法，准确性更高，且可以处理两个或者多个相关联的目标变量。
multi-objective optimizationsurrogatesexpected hypervolume improvementgauss-hermite quadraturecorrelated predictive densities
发现论文，激发创造
  • 针对并行多目标贝叶斯优化的可微分期望超体积改进方法

    本文利用编程模型和硬件加速，提出了 q-Expected Hypervolume Improvement (qEHVI) 算法，使得计算多目标贝叶斯优化的探索函数能够适用于平行、受限制的计算情况，并通过自动微分方法，一个精确的求解 MC 积分误差的加速器来计算探索函数的性能和效果进行了实证研究。

    Jun, 2020

  • 利用区间分解算法高效计算预期超体积改进值

    该文章提出了一种基于切片分解技术的高效算法，能够在多目标优化中准确计算期望超体积改进值，达到了渐近最优的时间复杂度，并将此分解技术应用到概率提升计算中。

    Apr, 2019

  • 具有预期超体积改进的多噪声目标并行贝叶斯优化

    提出了一种新的采样函数 NEHVI，它通过在 Pareto 前沿上集成期望超体积改进准则的不确定性，从而克服了噪声干扰的限制，特别是在大批量优化环境中表现出卓越的性能。

    May, 2021

  • 在高斯过程模型中改善近似推断下的超参数学习

    通过将变分推断用于推理，将边缘似然的直接逼近解决与非共轭似然的高斯过程模型的近似推断的问题

    Jun, 2023

  • 贝叶斯优化中对预期改进的意外改进

    我们提出了一种名为 LogEI 的新型收敛函数家族，其成员在数值优化方面比标准收敛函数更容易操作，能够显著提升优化性能，并与最新的收敛函数表现相媲美或超越，突显了数字优化在文献中的被低估作用。

    Oct, 2023

  • 复合函数的贝叶斯优化

    通过使用多输出高斯过程模型和预期改善在经过修改的非高斯正则先验上进行采样（EI）的有效最大化，本研究提出了一种新方法来优化复合目标函数，该复合目标函数是将一个高昂的黑盒子类函数 h (x) 的向量输出 g (h (x)) 函数与一个廉价函数 g (x) 组合而成。实验结果显示，该方法可以减少简单遗憾值数个数量级，比标准贝叶斯优化方法显着优越。

    Jun, 2019

  • 使用超体积最大化多目标学习预测帕累托前沿

    提出了一种使用动态损失函数来进行多目标训练神经网络以逼近 Pareto 前沿的新方法，在三个多目标问题上的实验表明，本方法无需预先指定权衡向量即可以返回分布在不同权衡方案上的输出，并且与现有技术相比具有更多的优势，尤其是对于非对称 Pareto 前沿。

    Feb, 2021

  • 截断多元高斯分布的精确哈密尔顿蒙特卡罗

    本研究提出了一种 Hamiltonian Monte Carlo 算法，能够从受限制的多元高斯分布中进行采样，该算法与 Gibbs 采样相比混合更快，更有效。此外，该算法还支持从具有分段二次 log 密度的分布进行采样，例如在 “Bayesian Lasso” 模型中。

    Aug, 2012

  • 随机超体积标量化技术的可证明多目标黑盒优化

    本文提出了一种称为 hypervolume scalarization 的标量化函数，并显示出如何从适当选择的分布中绘制随机标量化以有效地近似 hypervolume indicator metric，进而用此联系说明 Bayesian optimization 具有证明收敛到整个 Pareto frontier 的保证收敛性，同时凸显了标量化框架的一般实用性。

    Jun, 2020

  • 高斯过程全贝叶斯回归的近似推理

    本文介绍了高斯过程模型中两种推断超参数后验分布的方法，一种是哈密顿蒙特卡罗（HMC）求解采样近似，另一种是变分推断（VI），其中超参数后验分布被近似为一个因子化的高斯分布或全秩高斯分布，该文分析了完全贝叶斯高斯过程回归在多个基准数据集上的预测性能。

    Dec, 2019