Jul, 2023

决策导向学习：基础、现状、基准和未来机遇

PDF
TL;DR决策导向学习是机器学习中的新兴范式，通过训练模型来优化决策，在一个端到端的系统中集成预测和优化。本研究论文全面回顾了决策导向学习领域，深入分析了整合机器学习和优化模型的各种技术，引入了决策导向学习方法的分类体系，还对这些方法进行了广泛的实证评估，并提出了适用于决策导向学习的基准数据集和任务。最后，本研究提供了关于当前和潜在未来决策导向学习研究领域的有价值见解。
发现论文，激发创造
  • 关于决策聚焦学习的鲁棒性研究

    Decision-Focused Learning（DFL）是一种新兴的学习范例，用于训练机器学习模型来预测不完整优化问题的缺失参数。DFL 通过集成预测和优化任务，在端到端系统中训练机器学习模型，从而更好地匹配训练和测试目标。然而，我们对这些模型在对抗性攻击下的性能知之甚少。我们采用了十种独特的 DFL 方法，并在针对预测优化问题设定的两种明确攻击下进行性能基准测试。我们的研究提出了假设，即模型的鲁棒性与其能否找到导致最佳决策且不偏离基本真实标签的预测高度相关。此外，我们深入洞察了如何针对违反此条件的模型，并展示了这些模型如何根据训练周期结束时实现的最优性而有不同的响应。

    Nov, 2023

  • 无需可微分优化的决策导向学习：学习局部优化的决策损失

    本文介绍了一种全新的决策化学习方法，通过学习任务特定的损失函数代替了传统的基于代理的优化方法，与先前的工作相比，该方法不需要手工制定基于任务的代理，性能更好且更易用。

    Mar, 2022

  • DF2: 分布无偏的决策导向学习

    DF2 是第一个专门设计用于解决模型失配误差、样本平均近似误差和梯度近似误差的分布无关的决策导向学习方法。通过在训练过程中直接学习预期的优化函数，我们采用基于注意力机制的模型架构来高效地进行数据驱动型学习。我们在合成问题、风力发电竞标问题和非凸性疫苗分配问题上评估了 DF2 的有效性。

    Aug, 2023

  • 评分函数梯度估计以扩大决策导向学习的适用性

    该研究通过采用分布预测和采用得分函数渐近梯度估计来计算预测模型的决策焦点更新，以拓宽决策焦点学习的适用性，从而有效地应对两阶段随机优化问题。

    Jul, 2023

  • 基于学习排序的决策导向学习

    该研究提出了一种基于机器学习模型的决策学习方法，将预测转化成离散组合优化问题的目标函数的代价系数，并提出了一种新的噪声对比度估计损失函数，将决策学习作为学习排名问题，实现对最优解的链式排序，并通过实验检验了其优越性。

    Dec, 2021

  • 将数据决策流程融合：面向决策的组合优化学习

    通过深度学习将机器学习模型与优化算法直接结合，实现决策为导向的学习，从而在解决组合优化问题时取得更好的性能和决策效果。

    Sep, 2018

  • 针对奖励转移的稳健决策导向学习

    本文提出了一种强化学习算法，称为 “鲁棒的决策模型算法”，该模型能够同时满足奖励函数的变化和期望回报的最大化。实验证明该算法显著提高了智能体在奖励函数变化时的鲁棒性，同时不降低总体回报。

    Apr, 2023

  • 决策导向的预测：多阶段优化的决策损失

    决策聚焦学习关注解决不确定性下的决策问题，特别是多阶段优化与预测相结合的模型对未来决策具有重要影响，本研究提出了基于多层模型的决策聚焦预测方法，并在能量存储套利任务中验证了其优越性。

    May, 2024

  • 联邦学习：组织机会、挑战和采用策略

    通过探索联邦学习的技术基础和潜在应用，提出了一种用于组织采用联邦学习的概念框架，以及不同行业的优秀组织在联邦学习中可能考虑不同方法的讨论，进而指出联邦学习为商业和信息系统工程界提供了机会进行广泛的跨学科研究。

    Aug, 2023

  • 去中心化联邦学习：调查与展望

    本文综述性地介绍了分散化联合学习的定义、方法、挑战、变体、技术和研究方向。通过在客户端之间建立直接通信的去中心化网络结构，分散化联合学习能够省略中心服务器，降低通信开销并实现较高的学习效率和隐私保护。

    Jun, 2023