AAAINov, 2023

关于决策聚焦学习的鲁棒性研究

PDF
TL;DRDecision-Focused Learning（DFL）是一种新兴的学习范例，用于训练机器学习模型来预测不完整优化问题的缺失参数。DFL 通过集成预测和优化任务，在端到端系统中训练机器学习模型，从而更好地匹配训练和测试目标。然而，我们对这些模型在对抗性攻击下的性能知之甚少。我们采用了十种独特的 DFL 方法，并在针对预测优化问题设定的两种明确攻击下进行性能基准测试。我们的研究提出了假设，即模型的鲁棒性与其能否找到导致最佳决策且不偏离基本真实标签的预测高度相关。此外，我们深入洞察了如何针对违反此条件的模型，并展示了这些模型如何根据训练周期结束时实现的最优性而有不同的响应。
decision-focused learningmachine learning modeloptimization problemadversarial attacksrobustness of a model
发现论文，激发创造
  • 决策导向学习：基础、现状、基准和未来机遇

    决策导向学习是机器学习中的新兴范式，通过训练模型来优化决策，在一个端到端的系统中集成预测和优化。本研究论文全面回顾了决策导向学习领域，深入分析了整合机器学习和优化模型的各种技术，引入了决策导向学习方法的分类体系，还对这些方法进行了广泛的实证评估，并提出了适用于决策导向学习的基准数据集和任务。最后，本研究提供了关于当前和潜在未来决策导向学习研究领域的有价值见解。

    Jul, 2023

  • 无需可微分优化的决策导向学习：学习局部优化的决策损失

    本文介绍了一种全新的决策化学习方法，通过学习任务特定的损失函数代替了传统的基于代理的优化方法，与先前的工作相比，该方法不需要手工制定基于任务的代理，性能更好且更易用。

    Mar, 2022

  • DF2: 分布无偏的决策导向学习

    DF2 是第一个专门设计用于解决模型失配误差、样本平均近似误差和梯度近似误差的分布无关的决策导向学习方法。通过在训练过程中直接学习预期的优化函数，我们采用基于注意力机制的模型架构来高效地进行数据驱动型学习。我们在合成问题、风力发电竞标问题和非凸性疫苗分配问题上评估了 DF2 的有效性。

    Aug, 2023

  • 评分函数梯度估计以扩大决策导向学习的适用性

    该研究通过采用分布预测和采用得分函数渐近梯度估计来计算预测模型的决策焦点更新，以拓宽决策焦点学习的适用性，从而有效地应对两阶段随机优化问题。

    Jul, 2023

  • 基于学习排序的决策导向学习

    该研究提出了一种基于机器学习模型的决策学习方法，将预测转化成离散组合优化问题的目标函数的代价系数，并提出了一种新的噪声对比度估计损失函数，将决策学习作为学习排名问题，实现对最优解的链式排序，并通过实验检验了其优越性。

    Dec, 2021

  • 针对奖励转移的稳健决策导向学习

    本文提出了一种强化学习算法，称为 “鲁棒的决策模型算法”，该模型能够同时满足奖励函数的变化和期望回报的最大化。实验证明该算法显著提高了智能体在奖励函数变化时的鲁棒性，同时不降低总体回报。

    Apr, 2023

  • 将数据决策流程融合：面向决策的组合优化学习

    通过深度学习将机器学习模型与优化算法直接结合，实现决策为导向的学习，从而在解决组合优化问题时取得更好的性能和决策效果。

    Sep, 2018

  • 任务分布鲁棒的无数据元学习

    无数据元学习（DFML）旨在通过利用多个预训练模型有效地学习新任务而不需要它们的原始训练数据。我们提出了一个鲁棒的 DFML 框架，以应对任务分布偏移和任务分布污染所带来的挑战。我们通过在紧凑的任务记忆缓冲区内进行任务插值，从一个伪任务分布中进行元学习，减少元学习器对新生成任务的过度依赖，从而保证其对未见任务的泛化能力。此外，我们的框架将自动化模型选择机制无缝地整合到元训练阶段，通过参数化每个模型的可靠性作为可学习的权重来优化模型选择。全面的实验证明了该框架在减轻任务分布偏移和任务分布污染方面的有效性，突显了它在现实场景中改进 DFML 的潜力。

    Nov, 2023

  • 将未标记数据纳入分布鲁棒学习中

    本研究介绍了一种新的分布鲁棒学习方法，该方法通过加入无标签数据以限制敌手从指定分布中选择数据，可以有效地进行分类，并提出了一个分布鲁棒的版本，可应用于主动学习。在 14 个真实数据集上的结果表明，该算法往往在传统方法无法提供良好结果的情况下表现出色。

    Dec, 2019

  • 去中心化联邦学习的竞争优势攻击

    分散联邦学习（DFL）使得客户（如医院和银行）在没有中央编排服务器的情况下共同训练机器学习模型。在每个全局训练轮次中，每个客户在自己的训练数据上训练本地模型，然后交换本地模型进行聚合。在本文中，我们提出了 SelfishAttack，一种新的针对 DFL 的攻击方法。SelfishAttack 中，一组自私的客户旨在比其他非自私的客户获得竞争优势，即自私客户的最终学习本地模型比非自私客户的更准确。为实现这一目标，自私客户在每个全局训练轮次中向剩余的非自私客户发送精心制作的本地模型。我们将寻找这种本地模型视为一个优化问题，并提出了解决 DFL 使用不同聚合规则时的方法。从理论上讲，我们证明了我们的方法可以找到优化问题的最优解。实证上，我们展示了 SelfishAttack 成功增加了自私客户最终学习的本地模型与非自私客户之间的准确性差距（竞争优势）。此外，当扩展以增加竞争优势时，SelfishAttack 比毒化攻击实现了更大的准确性差距。

    Oct, 2023