Oct, 2022

帕累托测试在有效控制多重风险方面的应用

PDF
TL;DR本文提出了一种多目标优化的方法 Pareto Testing，通过结合多目标优化和多假设检验，构建了一组有前途的 Pareto Frontier，并将统计检验应用于这个 Pareto Frontier，用以同时控制和优化各种准确性和成本指标，以此可靠地加快自然语言处理（NLP）应用中大规模 Transformer 模型的执行。
machine learninghyper-parametersmulti-objective optimizationpareto testingnatural language processing
发现论文，激发创造
  • 通过导引贝叶斯优化选择风险控制模型

    通过将贝叶斯优化方法与严格的风险控制程序相结合，我们寻找一种满足用户指定风险限制的配置，同时在其他冲突指标方面也具有有用性，并展示了在多种任务中的有效性。

    Dec, 2023

  • 多任务学习中高效的连续 Pareto 探索

    提出了一种新的、高效的方法，可以生成局部连续的 Pareto 集和 Pareto fronts，并将其应用于现代机器学习问题中。通过提出基于样本的稀疏线性系统，将多目标优化的理论结果扩展到现代机器学习问题中，并实现了局部 Pareto 集的分析。与现有算法相比，通过在各种多任务分类和回归问题上的应用，证明了我们的算法在平衡权衡、有效地找到更多的不同权衡解以及迎合百万级参数任务的能力。

    Jun, 2020

  • 使用超体积最大化多目标学习预测帕累托前沿

    提出了一种使用动态损失函数来进行多目标训练神经网络以逼近 Pareto 前沿的新方法，在三个多目标问题上的实验表明，本方法无需预先指定权衡向量即可以返回分布在不同权衡方案上的输出，并且与现有技术相比具有更多的优势，尤其是对于非对称 Pareto 前沿。

    Feb, 2021

  • 提升机器学习模型的公平性与性能：一种采用蒙特卡洛辍学和帕累托优化的多任务学习方法

    本文考虑了机器学习中可推广的偏见缓解技术的需求，由于对公平性和歧视的担忧，这些技术在数据驱动的决策过程中得到了各个行业的应用。尽管许多现有的机器学习偏见缓解方法在特定情况下取得了成功，但它们常常缺乏可推广性，不能轻松地应用于不同的数据类型或模型。此外，准确性与公平性之间的权衡仍然是该领域的一种根本张力。为了解决这些问题，我们提出了一种基于多任务学习的偏见缓解方法，利用了多目标优化中的 Monte-Carlo dropout 和 Pareto 优势的概念。该方法在不使用敏感信息的情况下同时优化准确性和公平性，提高了模型的可解释性。我们在来自不同领域的三个数据集上测试了这种方法，并展示了它如何提供模型公平性和性能之间的最理想权衡。这使得我们能够在特定领域进行调优，其中一个指标可能比另一个更重要。通过我们在本文中介绍的框架，我们旨在增强公平性和性能之间的权衡，并为机器学习中偏见缓解方法的可推广性问题提供一个解决方案。

    Apr, 2024

  • 学习再测试：校准预测算法以实现风险控制

    介绍了一种框架，用于通过多重假设检验重新定义风险控制问题来校准机器学习模型，从而保证其预测结果符合明确的统计保证。

    Oct, 2021

  • 多语言机器翻译中的高 Pareto 前沿探索

    本文提出了一种新的训练框架 Pareto Mutual Distillation (Pareto-MD)，通过知识蒸馏协同训练出针对不同语言的 Pareto 最优解，有力地推进了 Pareto 前沿，实验结果表明在 WMT 和 TED 数据集上，我们的方法使 Pareto 前沿显著提高，并且比基线模型的 BLEU 值提高了高达 2.46。

    May, 2023

  • Pareto 多任务学习

    该研究提出了一种全新 Pareto 多任务学习算法，通过将多任务学习看作是多目标优化问题，并将多目标优化问题分解为具有不同权衡偏好的一组约束子问题，该算法能够找到一组良好分布的 Pareto 最优解，这些解能够代表不同任务之间的不同权衡，该算法在许多多任务学习应用程序上具有优越性能。

    Dec, 2019

  • 昂贵多目标优化的 Pareto 集学习

    本文提出了一种基于学习的方法，将分解式多目标优化算法 (MOEA/D) 从有限种群推广到模型，以近似整个 Pareto 集，为决策者提供灵活的决策，并展示实验结果。

    Oct, 2022

  • 带性能不确定性的多目标超参数优化

    本文介绍了一种使用 Tree-structured Parzen Estimators 采样策略和训练带异质噪声的 Gaussian Process Regression 元模型的多目标超参数优化方法，具有更好的超体积指标表现，并考虑到模型评估的不确定性。

    Sep, 2022

  • 机器学习的准确性和公平性权衡：基于随机多目标方法的研究

    本文介绍了一种新的处理公平性的方法，通过建立一个随机多目标优化问题，得到一组准确且平衡的 Pareto 前沿，以此权衡准确度和公平性，以更高效地处理大量的流数据。

    Aug, 2020