May, 2024

鲁棒满足性的统计特性

PDF
TL;DR该研究论文综合分析了 Robust Satisficing（RS）模型的理论性质，包括在不同应用中提供简化程序和鲁棒性广义化。通过与 Distributionally Robust Optimization（DRO）进行比较，RS 模型的理论性质更容易获得统计保证，同时还提供了两侧的置信区间和有限样本广义化误差界。该模型在小样本环境和分布转移情景下相对于基准经验风险最小化表现更好，并且比 DRO 模型对超参数调整更不敏感，突显了它在鲁棒性考虑中的实用性。
robust satisficingstatistical theoryoptimal lossfinite-sample generalizationdistribution shifts
发现论文，激发创造
  • 鲁棒贝叶斯满足

    分布变化、鲁棒满意度、上下文贝叶斯优化、RoBOS 和嘈杂黑盒优化是该研究论文的主要关键词和研究领域。

    Aug, 2023

  • 具有相关结构的分布鲁棒性随机优化

    本文研究了在不确定情况下基于一组概率分布找到表现良好解的分布鲁棒随机优化问题。在两部分中，分别考虑线性依赖和排序依赖的分布情况，提出了包含这些依赖项的新形式的双重优化。实验结果表明，新形式相对于传统的基于单侧矩阵的分布鲁棒随机优化有更好的性能。

    Jan, 2017

  • 分布鲁棒优化：一篇综述

    本文概述了分布鲁棒优化（DRO）的主要概念和贡献，以及它与鲁棒优化、风险规避、机会约束优化和函数正则化的关系。

    Aug, 2019

  • 鲁棒优化的统计学：一种广义经验似然方法

    本文研究了基于经验似然和分布鲁棒解的方法进行随机优化问题的统计推断，特别关注最优值的置信区间和渐近达到精确覆盖的解决方案。我们提出了一个基于非参数 $f$- 分歧球构建的分布不确定性集合的广义经验似然框架，用于 Hadamard 可微函数和随机优化问题，从而提供了一个有原则的选择分布不确定性区域大小的方法，以实现达到精确覆盖的单侧和双侧置信区间。我们还给出了我们分布鲁棒的公式的渐近展开，表明如何通过方差来规范化问题。最后，我们证明了，我们研究的分布鲁棒公式的优化器具有与经典样本平均逼近中的优化器基本相同的一致性属性。我们的一般方法适用于快速混合的平稳序列，包括几何上遗传的 Harris 递归马尔科夫链。

    Oct, 2016

  • 通过分布式稳健优化实现统一性能学习模型

    本研究提出了一种分布鲁棒的随机优化框架，利用凸形式化来解决学习模型受到数据生成分布扰动的问题，并通过多项收敛性保准来证明模型的可靠性，同时也得出了极限定理及有关泛化到未知人群、精细化认知等真实任务的证据。

    Oct, 2018

  • 基于经验分歧的分布鲁棒优化实现最佳统计保证回复

    通过使用分布鲁棒优化 (DRO) 工具恢复中心极限定理提供的渐进统计保证，我们探究了在模糊概率分布下维持期望值约束的可行性。我们展示了使用实证定义的 Burg-entropy 散度球来构造 DRO 可以实现此类保证。

    May, 2016

  • 具有 Wasserstein 距离的分布鲁棒随机优化

    本文对于分布鲁棒随机优化问题提出了一种新方法：使用 Wasserstein 距离来确定最坏情况下的期望，并通过拟合最优对偶解得到最坏分布，这一方法可以用于控制和估计点过程的强对偶结果。

    Apr, 2016

  • DORO：分布式和异常值鲁棒优化

    提出了一种名为 DORO 的分布与离群点鲁棒优化框架，其中核心在于改进的风险函数，可以解决分布变化和离群点的问题，从而提高了机器学习的性能和稳定性。该方法有助于提升现代大型数据集的实验结果。

    Jun, 2021

  • 大规模非凸随机约束分布鲁棒优化

    该论文主要研究了分布鲁棒优化（Distributionally Robust Optimization，DRO）中的约束问题，针对非凸损失函数提出了一种随机算法并进行了性能分析，证明了该算法能够找到一个满足 ε- 稳定点，而且计算复杂度为 O (ε^(-3k_*-5))，此外，数值结果表明该方法优于现有方法。

    Apr, 2024

  • 面向数据驱动问题的似然鲁棒优化

    本文提出了一种新型的分布鲁棒优化模型 —— 似然鲁棒优化模型，以历史数据为依据，用置信区间代替概率分布，解决了当环境不确定且输入分布未知的决策问题，避免了以往过于谨慎的方法对真实分布的偏离和对输出的限制。

    Jul, 2013