对抗训练及更多领域中的均匀稳定算法

ICMLMay, 2024

对抗训练及更多领域中的均匀稳定算法

Uniformly Stable Algorithms for Adversarial Training and Beyond

Jiancong Xiao, Jiawei Zhang, Zhi-Quan Luo, Asuman Ozdaglar

TL;DR在对抗性机器学习中，神经网络面临着一个重要问题，即强鲁棒性测试精度随时间降低。我们提出了 Moreau 包络 -$\mathcal {A}$，一个新方法来解决这个问题，通过引入 Moreau 包络函数，将原始问题重新构建为极小 - 极小问题，并通过解决内外两个最小化问题来实现统一稳定性，而无需额外的计算开销。在实际场景中，我们展示了 ME-$\mathcal {A}$ 在减轻强鲁棒性过拟合问题方面的有效性。除了在对抗性训练中的应用，这也是统一稳定性分析的一个基本结果，作为第一个在弱凸、非光滑问题上表现出统一稳定性的算法。

Abstract

In adversarial machine learning, neural networks suffer from a significant issue known as robust overfitting, where the robust test accuracy decreases over epochs (Rice et al., 2020). Recent research conducted by

adversarial machine learning robust overfitting uniform stability adversarial training moreau envelope-$\mathcal{a}$

发现论文，激发创造

去中心化弱凸优化的 Moreau 包络 ADMM

本文提出了一种分布式优化的交替方向乘子法 (ADMM) 的近似变体，通过使用 Moreau 包络函数的分析，证明了该方法可以在温和条件下收敛到一个稳定点，并且经过数值实验表明它比广泛使用的方法更快、更健壮。

Aug, 2023

具有稳定对抗训练的分布鲁棒学习

本文提出了一种新的稳定对抗学习（SAL）算法，该算法利用异质数据源构建了更实用的不确定性集，并根据协变量与目标的稳定性进行差异化的鲁棒性优化，理论上表明我们的方法适用于随机梯度下降优化，并为我们的方法提供了性能保证。在模拟和实际数据集上的实证研究验证了我们的方法在未知分布转移方面的均匀优秀性能。

Jun, 2021

具有线性约束的非凸优化问题的 Moreau 包络增广 Lagrangian 方法

本文提出了一种基于 Moreau 包络的增广 Lagrange 方法（MEAL）来解决具有非凸（弱凸）并且非光滑目标的线性约束问题，证明其收敛性，并提出两种实际变体 iMEAL 和 LiMEAL 以解决子问题无解析解且难以求解的约束问题。

Jan, 2021

理解对抗训练：通过鲁棒优化提升神经网络局部稳定性

提出了一个使用鲁棒性优化（RO）增加人工神经网络（ANN）本地稳定性的通用框架。该算法是通过替代最小化 - 最大化过程实现的，该网络的损失是在每个参数更新时生成的扰动样本上最小化的。实验结果表明，该方法提高了网络对现有敌对示例的鲁棒性，同时使生成新的敌对示例更加困难，而且该算法还提高了网络在原始测试数据上的准确性。

Nov, 2015

基于莫罗包络的弱凸差分重构和双层规划算法

该研究设计了一种利用凸差算法基于价值函数法的重要双层规划算法，以解决与超参数选择相关的应用问题，提出了在满足弱凸度假设的情况下根据下层问题 Moreau envelope 的差分弱凸规划改进措施，并验证了其有效性。

Jun, 2023

自由对抗性训练中的稳定性和泛化能力

通过算法稳定性框架研究了对抗性训练方法的泛化性能，发现自由对抗性训练方法具有较低的训练和测试样本之间的泛化差距，并且具有更好的鲁棒性对抗黑盒攻击。

Apr, 2024

非凸双层优化的 Moreau 包络：一种单循环且无 Hessian 的解决策略

该研究聚焦于解决大规模非凸双层优化问题中的两个主要挑战，即确保计算效率和提供理论保证，并通过引入一种创新的基于梯度的单循环算法、利用 Moreau 包络重构以及针对一般非凸双层优化问题提供的非渐进收敛分析，同时解决计算和理论挑战。该算法仅依赖一阶梯度信息，增强了其实用性和效率，特别适用于大规模双层优化学习任务，并通过在各种合成问题、两个典型超参数学习任务和一个真实的神经架构搜索应用上的实验证实了其卓越性能。

May, 2024

基于 Moreau 包络的一阶元强化学习

本文介绍了更多 au 包络元策略学习（MEMRL）算法，其可以通过采用基于梯度的优化和包络正则化的组合来高效更新策略参数，以适应任务分布，该算法使用更多 au 包络代理正则化器来联合学习可调整到每个任务环境的元策略。最后，我们证明了 MEMRL 算法的有效性，并在多任务 2D 导航问题上进行了测试。

May, 2023

分布偏移下的稳定对抗学习

本文提出了一种 Stable Adversarial Learning（SAL）算法，该算法通过利用异构数据源构建更实用的不确定性集合，并针对与目标之间的相关性稳定性进行差异化的强鲁棒性优化，在随机梯度优化的情况下证明了可行性和提供了性能保证。该算法的实证研究在模拟和实际数据集上验证了其总体表现较好的有效性。

Jun, 2020

过参数化神经网络中对抗训练的收敛

本文研究神经网络的鲁棒性问题，通过对抗训练的方法提高神经网络对抗扰动的鲁棒性。研究表明，通过对抗训练，网络可以收敛到一个鲁棒的分类器，传统的交叉熵损失函数不适用于训练鲁棒的分类器，也因此需要引入代理损失，并证明鲁棒插值需要更大的模型容量。

Jun, 2019