Feb, 2020

分布鲁棒贝叶斯优化

PDF
TL;DR本文通过使用最大平均偏差（MMD）来度量分布转移，研究了分布鲁棒优化的问题，在零阶、有噪音的优化设置下，提出了一种新颖的分布鲁棒贝叶斯优化算法（DRBO）。实验证明我们的算法在多个设置下能够获得次线性的稳健后悔的实现。
distributionally robust optimizationmaximum mean discrepancybayesian optimizationrobustnessnoisy optimization
发现论文，激发创造
  • 分布偏移下鲁棒机器学习的最小化遗憾优化

    该论文讨论了一种名为 Distributionally Robust Optimization (DRO) 的学习方法，该方法不一定能够保证在全部情况下达到一致的低回归值，提出了一种替代方法 Minimax Regret Optimization（MRO），在适当的条件下，该方法可以在全部测试分布下达到一致地低回归值，尤其是在测试分布与训练数据相似性较低的情况下，MRO 可以作为处理分布偏移的有效方法。

    Feb, 2022

  • 通过分布式稳健优化实现统一性能学习模型

    本研究提出了一种分布鲁棒的随机优化框架，利用凸形式化来解决学习模型受到数据生成分布扰动的问题，并通过多项收敛性保准来证明模型的可靠性，同时也得出了极限定理及有关泛化到未知人群、精细化认知等真实任务的证据。

    Oct, 2018

  • 基于数据驱动的分布鲁棒优化最优成本选择

    提供了一种自然的数据驱动方式，用于学习分布绝对稳健优化问题中定义的分布区间，证明该框架包括自适应正则化作为一个特殊案例，实证表明所提出的方法能够改进广泛应用的机器学习估计器。

    May, 2017

  • 分布稳健的贝叶斯积分优化

    本研究针对具有分布不确定性的贝叶斯积分优化问题使用分布鲁棒优化视角，提出了一种基于后验抽样的算法（DRBQO），旨在最大化最对抗分布下的预期目标，并通过贝叶斯遗憾度量其理论收敛性。我们在合成和真实世界问题中展示了我们提出的框架的实证有效性。

    Jan, 2020

  • 分布鲁棒优化：一篇综述

    本文概述了分布鲁棒优化（DRO）的主要概念和贡献，以及它与鲁棒优化、风险规避、机会约束优化和函数正则化的关系。

    Aug, 2019

  • 面向序列决策的分布稳健优化

    该研究探讨了在不确定参数的最具对抗性分布下，实现最大期望总回报的分布鲁棒 MDP，通过在模糊集格式中加入不确定性的广义矩和统计距离信息，将泛化动量和统计距离模糊集的现有研究推广到后者类别，进而提出了一种新的描述不确定性空间的模糊集形式。在此模糊集形式下，当满足一些温和的技术条件时，可以通过解决一系列一阶凸优化子问题来构建一份分布鲁棒策略。

    Jan, 2018

  • 训练集之外：一种检测模型优化中分布偏移的直观方法

    通过训练二元分类器，我们提出了一种简单的方法来检测分布的变化，从而解决了在模型设计过程中的分布偏移问题，并通过验证其在实际应用中的有效性，证实了此方法可以提高设计的质量。

    Nov, 2023

  • 鲁棒贝叶斯满足

    分布变化、鲁棒满意度、上下文贝叶斯优化、RoBOS 和嘈杂黑盒优化是该研究论文的主要关键词和研究领域。

    Aug, 2023

  • 面向数据驱动问题的似然鲁棒优化

    本文提出了一种新型的分布鲁棒优化模型 —— 似然鲁棒优化模型，以历史数据为依据，用置信区间代替概率分布，解决了当环境不确定且输入分布未知的决策问题，避免了以往过于谨慎的方法对真实分布的偏离和对输出的限制。

    Jul, 2013

  • 任意不确定输入的高效鲁棒贝叶斯优化

    本文介绍了一种新颖的稳健贝叶斯优化算法 AIRBO，它可以在任意输入不确定性下有效地识别表现稳定良好的稳健最优解。我们的方法通过在高斯过程中使用最大均值差异 (MMD)，直接建模任意分布的不确定输入，并通过 Nystrom 近似加速后验推理，从而在 MMD 估计误差下建立了严格的理论遗憾界，并在合成函数和实际问题上进行了大量实验，证明了我们的方法可以处理各种输入不确定性并实现最先进的性能。

    Oct, 2023