面向领域的对抗性训练：博弈视角

ICLRFeb, 2022

面向领域的对抗性训练：博弈视角

Domain Adversarial Training: A Game Perspective

David Acuna, Marc T Law, Guojun Zhang, Sanja Fidler

TL;DR本文从博弈论的角度解释了域自适应训练中学习不变表示的支配性思路，并将梯度下降的优化器替换成高阶 ODE 求解器，为此得出渐近收敛保证。实验结果表明，与标准优化器相比，使用我们的优化器能够在半数训练迭代次数内，与最先进的域自适应方法相结合实现 3.5％的性能提升。

Abstract

The dominant line of work in domain adaptation has focused on learning invariant representations using domain-adversarial training. In this paper, we interpret this approach from a game theoretical perspective. D

domain adaptation domain-adversarial training game theory asymptotic convergence optimizers

发现论文，激发创造

神经网络的领域对抗性训练

本文提出了一种新的领域适应的表示学习方法，使用神经网络架构从源域的有标签数据和目标域的无标签数据中推断出训练的特征，该方法增加了标准层和一个新的反向梯度层，可以在文本情感分析、图像分类以及人员重新识别等任务中有效实现领域适应。

May, 2015

领域对抗性强化学习

该研究解决强化学习中的泛化问题，通过领域对抗优化过程实现学习表征的视觉不变性，取得显著的泛化改进效果。

Feb, 2021

领域对抗神经网络

本研究提出了一种针对领域自适应问题的新型表示学习算法，其中训练和测试数据来自类似但不同的分布，实验结果表明，我们的神经网络算法对领域适应具有更好的性能表现，而不管是标准神经网络还是支持向量机，即使是使用 Chen 等人提出的最先进的边缘化堆栈去噪自编码器的输入特征提取。

Dec, 2014

f 域对抗学习：理论与算法

本文提出了一种新的通用领域敌对框架，利用变分 f - 分歧的特征进行领域自适应。基于此框架，推导出了具有重要修正的新算法框架，并证明了其在自然语言和计算机视觉数据集上优于现有的基线结果。

Jun, 2021

对抗式判别领域自适应

本文介绍了对抗学习的方法能够通过一般化的视角更好地理解前面的方法，并提出了一个新的对抗判别域自适应框架，称为 ADDA，它将判别建模、解除权重共享和 GAN 损失结合在一起，优于竞争的域对抗方法，且在标准的跨域数字分类任务和一种新的更难的跨模态物体分类任务中超越了最新的无监督适应结果。

Feb, 2017

关于域对抗训练中平滑性的深入探究

本文对平滑性增强公式对于领域对抗训练的影响进行了分析，发现通过对任务损失和对抗项的平滑最小值进行收敛来稳定对抗训练可以在目标领域获得更好的性能。作者介绍了 SDAT 过程，该过程有效地提高了现有领域对抗方法的性能，同时提供了 SGD 在领域对抗培训中广泛使用的洞见。

Jun, 2022

无偏决策减少遗憾：面向银行贷款问题的对抗领域适应

通过对抗性领域适应性解决训练数据偏差问题，adversarial optimism（AdOpt）显著超过了现有性能，并初步证明对抗性领域适应性的引入改善了这个情景中的公平性。

Aug, 2023

多重对抗领域适应

本文提出一种多重对抗领域自适应方法 (MADA)，能够捕获多模态结构，利用多个领域判别器实现不同数据分布的精细对齐，利用随机梯度下降计算梯度，证据表明该模型在标准领域自适应数据集上优于现有最先进方法。

Sep, 2018

判别式对抗领域自适应

提出了一种基于判别式对抗领域适应 (DADA) 的新型对抗学习方法，其鼓励在输入实例的任何情况下，类别和域预测之间存在相互抑制关系，以解决现有方法中任务和域分类器相互独立导致的收敛问题，该方法能够在实际条件下定义一个最小极值博弈，促进联合分布对齐。除传统的闭集领域适应以外，还将 DADA 扩展到部分和开放集领域适应的极具挑战性的问题设置中，在基准数据集上实验表明了该方法的有效性并达到了三个场景下的最新成果。

Nov, 2019

QAGAN：学习领域不变的语言特征的对抗方法

探索对抗训练方法以学习领域不变特征，从而使语言模型可以对域外数据集进行良好的推广。我们还审查了各种其他方法来提高我们的模型性能，包括通过改写句子实现数据增强、将回答跨度预测的结尾词映射到开始词上以及精心设计的退火函数。我们的初步结果表明，在结合这些方法的情况下，与基线相比，在域外验证数据集上我们能够实现 EM 分数 15.2% 的提高和 F1 分数 5.6% 的提高。

Jun, 2022