通过引入自动学习范式，我们介绍了一种新的自动优化多目标优化问题的学习方法，并提出了一种多梯度学习优化（ML2O）方法，通过自动学习多个梯度以更新方向。通过引入新的守卫机制，我们提出了一种守卫多梯度学习优化（GML2O）方法，并证明了 GML2O 生成的迭代序列收敛到一个 Pareto 临界点。实验结果表明，我们学习的优化器在训练多任务学习神经网络方面胜过手动设计竞争对手。

Nov, 2023

本文介绍了一种基于多目标蚁群算法的自动对抗攻击优化设计方法，其搜索空间不仅包括攻击者操作、幅度、迭代次数、损失函数，还包括多种对抗攻击连接方式，实现了对防御模型的近最优自动搜索，有效提高了深度学习模型对抗攻击的鲁棒性。

Aug, 2022

本文提出了基于方向的多目标问题、Stochastic Direction-oriented Multi-objective Gradient Descent 和 SDMGrad-OS 算法，实现了多任务学习和强化学习中的多目标优化。

May, 2023

我们的目标是为机器学习从业者提供清晰、实用的指南，以有效地应用多目标优化 (MOO)，特别是在深度学习 (DL) 的背景下。

May, 2024

本论文将多任务学习作为多目标优化来解决，并提出了一种基于梯度下降优化算法的上限边界，证明了在现实情况下优化这个上限边界将得到帕累托最优解，在多任务深度学习问题上应用我们的方法表现出比最近的多任务学习公式或每项任务训练的模型更高的性能。

Oct, 2018

离线优化涉及最大化一个黑盒目标函数，存在广泛的应用。然而，与离线单目标优化相比，离线多目标优化进展不足，主要原因是缺乏像单目标优化的 Design-Bench 这样的基准。为了填补这一差距，我们提出了离线多目标优化的第一个基准，覆盖了从合成到真实任务的一系列问题。该基准提供了任务、数据集和开源示例，可作为方法比较和离线多目标优化进展的基础。此外，我们从数据、模型架构、学习算法和搜索算法四个基本角度分析了如何将当前相关方法调整为离线多目标优化。实证结果显示，离线多目标优化方法相较于训练集的最佳值有所改进，证明了其有效性。由于没有特定的方法明显优于其他方法，进一步提高离线多目标优化的效果仍然是一个开放性挑战。最后，我们探讨了离线多目标优化的未来挑战，希望为这个新兴领域带来一些启示。我们的代码可在 https://github.com/lamda-bbo/offline-moo 找到。

Jun, 2024

本文提出了一种通过深度强化学习和神经网络实现的多目标优化问题解决方案，其中采用分解思想将问题分解为一组标量优化子问题并针对每个子问题建立神经网络模型。通过邻域参数传递策略和 DRL 训练算法共同优化所有子问题的模型参数，并利用训练好的神经网络模型直接得到帕累托最优解。其中将多目标旅行商问题作为研究对象，使用 DRL-MOA 方法建模子问题为指针网络并与其他基准方法进行对比，在实验中表现出了较强的泛化能力和快速解决速度。

Jun, 2019

提出一种新的联邦多目标学习 (FMOL) 框架，使多个客户端通过分布式和协作的方式解决多目标优化问题，同时保持其训练数据的私密性。该框架支持不同客户端之间的不同目标函数，将多目标优化的思想推广到联邦学习范式中，并提出两种新的联邦多目标优化算法，分别为联邦多梯度下降平均 (FMGDA) 和联邦随机多梯度下降平均 (FSMGDA)。这两种算法通过本地更新显著降低通信成本，并达到与单目标联邦学习的算法相同的收敛速度。大量实验证实了所提出的联邦多目标优化算法的有效性。

Oct, 2023

该研究提出了一种基于多目标优化的攻击方法，可以最小化真正例率和最大化假正例率，通过使用改进的遗传算法 (GARSDC) 和利用不同探测器间的可迁移性，大大提高了攻击效率和性能。

Sep, 2022

本研究提出一种生成无监督模型的对抗性示例的框架，使用相互信息神经估计器作为无监督信息理论相似度测量，建议使用此框架将对抗性样本作为简单的插入数据增强工具进行模型再训练，以大幅提高在不同无监督任务和数据集上的性能。

Mar, 2021