本文提出了一种新颖的无监督领域自适应学习范式 —— 通过提示学习的领域自适应 (DAPL)，通过嵌入域信息和利用预训练的视觉 - 语言模型进行分类，此方法在多个领域的基准测试数据上表现优异，并且训练效率高、易于实现。

Feb, 2022

在本文中，我们首先实验性地证明了无监督训练的视觉语言模型可以显著减少源域和目标域之间的分布差异，从而改善无监督域自适应的性能。然而，直接在下游无监督域自适应任务中部署这些模型的一个重要挑战是及时的工程技术，需要对源域和目标域的领域知识进行对齐，因为无监督域自适应的性能受到良好的领域不变表示的严重影响。我们进一步提出了一种基于提示的分布对齐方法（PDA），将领域知识融入到提示学习中。具体而言，PDA 采用了两支分支的提示调试范例，即基础分支和对齐分支。基础分支专注于将与类相关的表示集成到提示中，确保在不同类别之间进行区分。为了进一步减小领域差异，我们为源域和目标域构建特征库，并提出了图像引导特征调试（IFT）来使输入关注特征库，从而有效地将自我增强和跨域特征集成到模型中。通过这种方式，这两个分支可以相互促进，增强 VLM 在无监督域自适应中的适应性。我们在三个基准测试上进行了大量实验，证明了我们提出的 PDA 方法达到了最先进的性能。

Dec, 2023

通过主对抗领域适应的对抗性样例检测方法（AED-PADA），针对现有检测方法在广泛应用中存在的泛化性能较差的问题提出了解决方案，通过识别主对抗领域（PAD）并利用多源领域适应实现对对抗性样例的检测，实验表明我们的方法在具有极小幅度干扰的挑战性场景中具备突出的泛化能力。

Apr, 2024

本文提出了一种名为 PADA 的方法，其中通过修剪已预训练在大量跨领域（OOD）数据上的模型中的冗余权重，帮助目标领域 ASR 微调。通过各种修剪策略的比较研究，本文探讨了基于任务对称和不对称修剪对 PADA 的影响，并提出了一种称为基于交叉领域任务感知修剪（CD-TAW）的新的修剪范式。CD-TAW 可以获得来自精细调整的 OOD 模型的初始修剪掩模。实验表明，CD-TAW 方法在没有语言模型解码的 Switchboard 数据的 2 小时子集上进行微调时相对 WER 提高了最多 20.6％。

Mar, 2022

通过在无标签数据上进行句子掩码模型训练（MLM）和源标记数据上进行监督指导训练，采用自监督学习和提示模型术语分类方法，我们提出了一种叫做困难易化领域适应（FEUDA）的方法，通过训练一个自回归语言模型，从源和目标领域的标签和无标签示例中，来学习领域不变表征，以提高目标领域的分类性能。

Jan, 2024

本文通过提出 Example Transfer Network（ETN）的方法，使得源域与目标域的表示更具有代表性而形成一种权衡，从而在部分领域适应任务中取得最新的成果。

Mar, 2019

利用大规模预训练视觉 - 语言模型的知识进行领域不可知的相互提示，通过互相对齐视觉和文本嵌入来利用领域不变的语义，并通过语义一致性损失和实例差异对齐损失进行规则化，实验证明 Domain-Agnostic Mutual Prompting（DAMP）相较于现有方法在三个无监督领域自适应基准上具有优势。

Mar, 2024

本文提出部分域自适应作为一种新的域自适应场景，旨在将现有大型域中的深度模型转移到未知小型域中，通过下调异常源类别数据来训练源分类器和域对手，同时匹配共享标签空间中的特征分布来同时缓解负迁移并促进正迁移，实验证明这种方法在多个数据集上的部分域自适应任务中超越了现有的最先进结果。

Aug, 2018

该论文提出了一个新的异构无监督领域自适应 (UDA) 任务：正例与未标记数据异构领域自适应 (positive and unlabeled heterogeneous domain adaptation, PU-HDA)，并针对该任务提出了一种名为 PADA 的新颖方法，该方法通过对抗训练框架学习分类器，以预测可能的正例，并学习特征转换器将目标领域的特征空间对齐到源领域的特征空间，从而减小源域数据和目标域的可能正例数据之间的分布差异。

Apr, 2023

通过引入低成本提示调整范式来学习特定领域视觉提示，我们提出了一种新颖且模型无关的领域感知提示学习（DAP）框架，以在 VLN 任务中为预训练模型提供特定对象级和场景级跨模态对齐，并将领域内视觉知识以高效的方式注入预训练模型的视觉编码器。在 R2R 和 REVERIE 上的实验结果显示，DAP 相比现有的最先进方法具有明显的优势。

Nov, 2023