多目标多解输送
本文提出了一种多目标优化的多任务学习方法,通过迭代传递模型参数在优化过程中解决存在冲突的多个任务,并在图像分类、场景理解和多目标回归问题中进行了实验验证,结果显示该方法显著提升了发现满足 Pareto 优化的模型集合的状态,尤其在大规模图像数据集上的实验中,比现有技术取得了近两倍的超体积收敛速度。
Mar, 2024
该研究提出了一种全新 Pareto 多任务学习算法,通过将多任务学习看作是多目标优化问题,并将多目标优化问题分解为具有不同权衡偏好的一组约束子问题,该算法能够找到一组良好分布的 Pareto 最优解,这些解能够代表不同任务之间的不同权衡,该算法在许多多任务学习应用程序上具有优越性能。
Dec, 2019
本文提出一种适用于多个质量变量的多变量软测量方法,通过改良神经网络结构和优化目标函数,实现了对质量变量的准确估计。在这个方法中,作者利用目标专家混合模块(OMoE)和帕累托目标路由模块(POR)解决了模型中存在的负面迁移和平衡问题,实验结果表明,该模型表现出了先进的性能。
Feb, 2023
本论文将多任务学习作为多目标优化来解决,并提出了一种基于梯度下降优化算法的上限边界,证明了在现实情况下优化这个上限边界将得到帕累托最优解,在多任务深度学习问题上应用我们的方法表现出比最近的多任务学习公式或每项任务训练的模型更高的性能。
Oct, 2018
通过基于遗传算法的多目标和单目标方法,以及公共交通系统中自动收费数据为基础,设计一种能够动态适应城市交通变化、减少线路数量和改善乘客通勤体验的交通网络设计问题优化方案。
Jan, 2022
通过专家混合(MoE)模型融合的实用且可扩展的方法,本研究旨在有效学习大型神经网络的 Pareto 集,从而捕捉多个目标之间的权衡关系和大致近似整个 Pareto 集,并在低内存使用量的情况下提供可扩展性。
Jun, 2024
使用 Many-Objective Evolutionary Algorithms 和 Quality Diversity algorithms 的元素,我们提出了基于投票的多目标精英优化 (MOVE)。MOVE 通过维护适用于目标函数不同子集的精英群体地图来平衡众多目标,并通过在具有 14 个目标的图像神经进化问题上的实验证明 MOVE 是可行的。我们发现该算法的性能取决于解决方案在不同目标子集之间跳跃,并指出这种目标切换是一种隐式的自动识别逐步学习的方法。我们对 MOVE 和 MAP-Elites 之间的相似之处和差异进行了讨论,并提出未来的研究方向以供参考,以便更好地理解这种方法在众多目标问题中的应用。
Jul, 2023
提出了一种新的、高效的方法,可以生成局部连续的 Pareto 集和 Pareto fronts,并将其应用于现代机器学习问题中。通过提出基于样本的稀疏线性系统,将多目标优化的理论结果扩展到现代机器学习问题中,并实现了局部 Pareto 集的分析。与现有算法相比,通过在各种多任务分类和回归问题上的应用,证明了我们的算法在平衡权衡、有效地找到更多的不同权衡解以及迎合百万级参数任务的能力。
Jun, 2020