Jan, 2017

具有相关结构的分布鲁棒性随机优化

PDF
TL;DR本文研究了在不确定情况下基于一组概率分布找到表现良好解的分布鲁棒随机优化问题。在两部分中，分别考虑线性依赖和排序依赖的分布情况，提出了包含这些依赖项的新形式的双重优化。实验结果表明，新形式相对于传统的基于单侧矩阵的分布鲁棒随机优化有更好的性能。
distributionally robust stochastic optimizationprobability distributionslinear dependencerank dependencedual reformulation
发现论文，激发创造
  • 具有 Wasserstein 距离的分布鲁棒随机优化

    本文对于分布鲁棒随机优化问题提出了一种新方法：使用 Wasserstein 距离来确定最坏情况下的期望，并通过拟合最优对偶解得到最坏分布，这一方法可以用于控制和估计点过程的强对偶结果。

    Apr, 2016

  • 分布鲁棒优化：一篇综述

    本文概述了分布鲁棒优化（DRO）的主要概念和贡献，以及它与鲁棒优化、风险规避、机会约束优化和函数正则化的关系。

    Aug, 2019

  • 大规模非凸随机约束分布鲁棒优化

    该论文主要研究了分布鲁棒优化（Distributionally Robust Optimization，DRO）中的约束问题，针对非凸损失函数提出了一种随机算法并进行了性能分析，证明了该算法能够找到一个满足 ε- 稳定点，而且计算复杂度为 O (ε^(-3k_*-5))，此外，数值结果表明该方法优于现有方法。

    Apr, 2024

  • 方差减少的极大 - 极小优化算法实现快速分布式鲁棒学习

    本文提出了一种可扩展的、可实现的随机额外梯度算法，用于解决 Wasserstein DRSL 框架下的分类问题，该算法采用方差缩减和随机重排，可达到更快的收敛速率，并在合成和真实数据上证明了其有效性。

    Apr, 2021

  • 基于数据驱动的分布鲁棒优化最优成本选择

    提供了一种自然的数据驱动方式，用于学习分布绝对稳健优化问题中定义的分布区间，证明该框架包括自适应正则化作为一个特殊案例，实证表明所提出的方法能够改进广泛应用的机器学习估计器。

    May, 2017

  • 使用 Wasserstein 度量的分布鲁棒优化分解算法

    本文研究了基于 Wasserstein 距离的分布鲁棒优化问题，将其归约为半无限规划问题，并提供了求解非线性模型的交换算法和凸情况下基于分离预言的中心割面算法，通过对分布鲁棒广义 logistic 回归模型的数字实验表明，该算法无论是在预测精度上还是在标准误差方面都表现得更好。

    Apr, 2017

  • 异常值鲁棒的 Wasserstein DRO

    给定一个研究论文，提取 5 个关键词，准确地代表其主要主题和研究领域。然后，用一句简明扼要的中文句子概括该论文。

    Nov, 2023

  • DORO：分布式和异常值鲁棒优化

    提出了一种名为 DORO 的分布与离群点鲁棒优化框架，其中核心在于改进的风险函数，可以解决分布变化和离群点的问题，从而提高了机器学习的性能和稳定性。该方法有助于提升现代大型数据集的实验结果。

    Jun, 2021

  • 简化版基于原始 - 对偶算法的分布鲁棒优化

    考虑给定一个闭合凸不确定性集合的罚函数分布鲁棒优化 (DRO) 问题，该问题涵盖了 $f$-DRO、Wasserstein-DRO 以及在实践中使用的谱 /$L$-risk 形式，我们提出了 Drago，这是一种基于随机原始对偶算法，能在强凸 - 强凹 DRO 问题上实现最先进的线性收敛率。该方法结合了随机化和循环成分以及小批量处理，能有效处理 DRO 中原始问题和对偶问题的独特的非对称性质。我们通过分类和回归的数值基准来支持我们的理论结果。

    Mar, 2024

  • Wasserstein 分布鲁棒优化：机器学习中的理论和应用

    此论文介绍了基于 Wasserstein 分布鲁棒优化的数据驱动决策方法，能够解决样本有限、参数不确定的情况下，采用仅仅通过数据学习决策的问题，绕过测试样本不能涵盖所有情况的问题，具有良好的效果且容易计算。此方法对于分类、回归等基本学习任务有很好启示作用。

    Aug, 2019