Apr, 2017

从数据到决策：分布鲁棒优化是最优的

PDF
TL;DR本文研究随机程序的优化问题，其中决策者不能观察到外生不确定性的分布，但可以访问此分布的有限样本。作者提出了一种元优化问题来找到最不保守的预测器和处方器，以及遵守它们的样本外失望约束。利用大偏差理论的工具，作者证明了该元优化问题有唯一解。最佳预测器 - 处方器对可以通过在距离数据的经验分布一定的相对熵距离内的所有分布上求解一个分布的鲁棒优化问题来获得。
发现论文，激发创造
  • 基于数据驱动的带不完美信息的反优化

    本研究着重于解决不完美信息下的数据驱动逆向优化问题，将其形式化为分布鲁棒规划，最小化预测决策与真实响应之间的最坏情况风险，并证明了该方法比现有方法更为有效。

    Dec, 2015

  • 决策依赖分布的随机优化

    本文的研究内容是针对随机优化问题中在决策变量变化时数据分布的变化所导致的问题提出了解决方案，即通过基于静态分布的最优决策来解决。同时，为了提高算法效率，研究者将典型的随机优化算法应用在了这种问题上，并提供了收敛性保证和性能评估，最终提出了增加算法效率、减少决策规则代价的改进方法。

    Nov, 2020

  • 通过分布式稳健优化实现统一性能学习模型

    本研究提出了一种分布鲁棒的随机优化框架，利用凸形式化来解决学习模型受到数据生成分布扰动的问题，并通过多项收敛性保准来证明模型的可靠性，同时也得出了极限定理及有关泛化到未知人群、精细化认知等真实任务的证据。

    Oct, 2018

  • 基于数据驱动的分布鲁棒优化最优成本选择

    提供了一种自然的数据驱动方式，用于学习分布绝对稳健优化问题中定义的分布区间，证明该框架包括自适应正则化作为一个特殊案例，实证表明所提出的方法能够改进广泛应用的机器学习估计器。

    May, 2017

  • Wasserstein 分布鲁棒优化：机器学习中的理论和应用

    此论文介绍了基于 Wasserstein 分布鲁棒优化的数据驱动决策方法，能够解决样本有限、参数不确定的情况下，采用仅仅通过数据学习决策的问题，绕过测试样本不能涵盖所有情况的问题，具有良好的效果且容易计算。此方法对于分类、回归等基本学习任务有很好启示作用。

    Aug, 2019

  • 鲁棒优化的统计学：一种广义经验似然方法

    本文研究了基于经验似然和分布鲁棒解的方法进行随机优化问题的统计推断，特别关注最优值的置信区间和渐近达到精确覆盖的解决方案。我们提出了一个基于非参数 $f$- 分歧球构建的分布不确定性集合的广义经验似然框架，用于 Hadamard 可微函数和随机优化问题，从而提供了一个有原则的选择分布不确定性区域大小的方法，以实现达到精确覆盖的单侧和双侧置信区间。我们还给出了我们分布鲁棒的公式的渐近展开，表明如何通过方差来规范化问题。最后，我们证明了，我们研究的分布鲁棒公式的优化器具有与经典样本平均逼近中的优化器基本相同的一致性属性。我们的一般方法适用于快速混合的平稳序列，包括几何上遗传的 Harris 递归马尔科夫链。

    Oct, 2016

  • 面向数据驱动问题的似然鲁棒优化

    本文提出了一种新型的分布鲁棒优化模型 —— 似然鲁棒优化模型，以历史数据为依据，用置信区间代替概率分布，解决了当环境不确定且输入分布未知的决策问题，避免了以往过于谨慎的方法对真实分布的偏离和对输出的限制。

    Jul, 2013

  • 分布鲁棒优化：一篇综述

    本文概述了分布鲁棒优化（DRO）的主要概念和贡献，以及它与鲁棒优化、风险规避、机会约束优化和函数正则化的关系。

    Aug, 2019

  • 贝叶斯非参数统计遇见数据驱动的鲁棒优化

    通过将贝叶斯非参数理论和最近一些决策理论模型的平滑模糊厌恶偏好相结合，我们提出了一种新颖的鲁棒准则，并与标准的正则化经验风险最小化技术之间建立了新颖的联系，从而为优化过程提供了有利的有限样本和渐进统计保证。

    Jan, 2024

  • 马尔可夫决策过程中的分布鲁棒对应物

    本文研究了参数不确定的马尔可夫决策过程，利用分布鲁棒优化框架来得到在最具有敌意的分布下的最大性能期望值。通过将不确定参数视为随机变量，本文泛化了以前的研究并证明，在较温和的技术条件下，可以高效地获得最优策略，这极大地扩展了分布鲁棒 MDP 集成不确定性的概率信息的灵活性。

    Jan, 2015