不确定性下公平多目标优化的端到端学习
该研究论文提供了现有方法的综合分类和整合,建立了统一的评估基准,并阐明了端到端训练在不同场景下的改进情况及其表现不佳的背景。此外,还介绍了一个用于工业组合式广告问题的新数据集,以帮助更方便的评估和部署,鼓励在学术界和工业界进一步的改进。
Nov, 2023
从观测特征中通过预测模型直接学习最优解的方法被提出,该方法是泛化的,基于学习优化范式,能够提供高效、准确和灵活的解决方案给一系列具有挑战性的预测优化问题。
Nov, 2023
本文介绍了一种新的处理公平性的方法,通过建立一个随机多目标优化问题,得到一组准确且平衡的 Pareto 前沿,以此权衡准确度和公平性,以更高效地处理大量的流数据。
Aug, 2020
本文提出了一种端到端的方法来学习概率机器学习模型,以便在随机编程的上下文中直接捕获它们将要使用的最终基于任务的目标,我们在经典库存问题,实际电力调度任务和实际能源存储套利任务中验证了该方法的有效性。
Mar, 2017
提出了一种新的框架 —— Smart Predict, then Optimize (SPO),该框架直接利用优化问题的结构,即目标和约束,来设计更好的预测模型。实验表明,使用 SPO 框架可以显著提高预测 - 优化范例下的性能。
Oct, 2017
学习排序(LTR)是最广泛使用的机器学习应用程序之一。本文展示了如何将有效可解的公平排序模型整合到 LTR 模型的训练循环中,以在公平性、用户效用和运行效率之间取得有利的平衡。特别是,本文首次展示了如何通过 OOW 目标的约束优化进行反向传播,从而在集成的预测和决策模型中使用它们。
Feb, 2024
本文考虑了机器学习中可推广的偏见缓解技术的需求,由于对公平性和歧视的担忧,这些技术在数据驱动的决策过程中得到了各个行业的应用。尽管许多现有的机器学习偏见缓解方法在特定情况下取得了成功,但它们常常缺乏可推广性,不能轻松地应用于不同的数据类型或模型。此外,准确性与公平性之间的权衡仍然是该领域的一种根本张力。为了解决这些问题,我们提出了一种基于多任务学习的偏见缓解方法,利用了多目标优化中的 Monte-Carlo dropout 和 Pareto 优势的概念。该方法在不使用敏感信息的情况下同时优化准确性和公平性,提高了模型的可解释性。我们在来自不同领域的三个数据集上测试了这种方法,并展示了它如何提供模型公平性和性能之间的最理想权衡。这使得我们能够在特定领域进行调优,其中一个指标可能比另一个更重要。通过我们在本文中介绍的框架,我们旨在增强公平性和性能之间的权衡,并为机器学习中偏见缓解方法的可推广性问题提供一个解决方案。
Apr, 2024
提出了一种使用动态损失函数来进行多目标训练神经网络以逼近 Pareto 前沿的新方法,在三个多目标问题上的实验表明,本方法无需预先指定权衡向量即可以返回分布在不同权衡方案上的输出,并且与现有技术相比具有更多的优势,尤其是对于非对称 Pareto 前沿。
Feb, 2021
该论文介绍了一种名为 PAIR 的多目标优化方案来改善针对 Out-of-Distribution 数据的机器学习模型的鲁棒性。该方案通过优化其他 OOD 目标来改进 OOD 目标的鲁棒性,并通过达到 Pareto 最优解来平衡 ERM 和 OOD 目标的权衡关系。在挑战性的基准测试 WILDS 上进行的广泛实验表明,PAIR 缓解了折衷并产生了最佳的 OOD 性能。
Jun, 2022
本文提出一种适用于多个质量变量的多变量软测量方法,通过改良神经网络结构和优化目标函数,实现了对质量变量的准确估计。在这个方法中,作者利用目标专家混合模块(OMoE)和帕累托目标路由模块(POR)解决了模型中存在的负面迁移和平衡问题,实验结果表明,该模型表现出了先进的性能。
Feb, 2023