顺序保持的一致性正则化用于领域适应与泛化

ICCVSep, 2023

顺序保持的一致性正则化用于领域适应与泛化

Order-preserving Consistency Regularization for Domain Adaptation and Generalization

Mengmeng Jing, Xiantong Zhen, Jingjing Li, Cees Snoek

TL;DR为了解决深度学习模型在跨领域挑战中对特定领域属性过于敏感的问题，本文提出了一种基于次序保持一致性规则（OCR）的方法，通过保持预测的次序性，使模型对任务无关的转换具有鲁棒性，从而降低对特定领域属性的敏感性。在五个不同的跨领域任务上，该方法显示出明显优势。

Abstract

deep learning models fail on cross-domain challenges if the model is oversensitive to domain-specific attributes, e.g., lightning, background, camera angle, etc. To alleviate this problem, →

deep learning models cross-domain challenges data augmentation consistency regularization order-preserving consistency regularization

发现论文，激发创造

基于增强的一致性正则化分类

本文提出了一种基于数据增强的一致性正则化框架 CR-Aug，利用停止梯度操作来提高支持向量器的泛化能力，并表明 CR-Aug 的效果显著优于基线方法。

May, 2022

CrDoCo：带有跨域一致性的像素级域转化

本文提出了一种新颖的基于像素的对抗域自适应算法，通过利用图像到图像翻译方法进行数据增强，并引入跨域一致性损失来强制使得我们的自适应模型产生一致的预测，从而在广泛的无监督域自适应任务中获得与最先进方法相当的表现。

Jan, 2020

跨语言细调的一致性正则化

本研究提出采用一致性正则化改进跨语言 fine-tuning 的方法，通过示例一致性正则化对子词采样、高斯噪声、代码切换和机器翻译四种数据增广方式的敏感性进行惩罚，并采用模型的一致性正则化方法对同一训练集上经过增广的两个版本的模型进行规范化。在 XTREME 基准测试中，实验结果表明，我们的方法显着提高了跨语言 fine-tuning 在各种任务中的性能，包括文本分类、问题回答和序列标注。

Jun, 2021

开放式复合领域自适应

本文提出了一种基于课程域适应策略和记忆模块的方法，以处理由多个同质域组成的无标签复合目标域的开放复合域适应问题。实验证明我们的方法在数字分类，面部表情识别，语义分割和强化学习上非常有效。

Sep, 2019

跨域对应实现小样本图像生成

利用预训练的跨域远程监督来降低过拟合，使用锚定策略以鼓励不同程度的真实感，实现源域和目标域之间的自动对应和生成更多样化和逼真的图像的少样本学习模型。

Apr, 2021

DOMINO++：面向领域感知的深度学习泛化能力的损失规范化

本文介绍了 DOMINO++，这是一种面向 OOD 泛化能力的双引导和动态领域感知损失正则化方法，它整合了专家引导和数据引导的知识，通过对合成噪声、旋转数据以及不同磁共振成像扫描仪的真实数据进行综合评估，证明了 DOMINO++ 在真实临床数据上提高了可靠的 DL 部署性能。

Aug, 2023

多路径一致性正则化的图像到图像翻译

本文引入了一种新的多路径一致性损失，该损失用于评估直接翻译和间接翻译之间的差异，并用于正则化培训，以建立培训模型，包括面对面的翻译，绘画到照片的翻译以及去雨 / 去噪翻译。

May, 2019

关注跨域人群理解中的语义一致性

本文提出了一种领域适应方法，采用语义一致性、语义提取和对抗训练技术解决了合成数据适应性差的问题，在三个数据集上实验结果表明该方案在跨领域计数问题中达到了最先进水平。

Feb, 2020

一致性正则化可提高标签噪声下的鲁棒性

本论文实验证明，鼓励一致性规则的简单损失函数可以显著提高模型对噪声标签的鲁棒性。

Oct, 2021

利用对抗学习进行神经排序模型的跨域正则化

通过使用对抗生成网络作为跨领域正则化器，研究利用其在排名任务的效果来消除神经表示学习模型在训练过程中学习到的领域特定表示形式，从而在领域之间更好地泛化。

May, 2018