本文提出了一种新的无监督多目标域自适应方法，通过多教师知识蒸馏来训练 CNN，使其可以在多个目标领域上广义化。该方法通过逐步蒸馏目标域知识到一个共同的学生无直接学习域适应特征，同时保留每个目标（教师）的特异性以适应学生，通过在多项具有挑战性的 UDA 基准测试上的实证结果表明，我们提出的模型可以在多个目标域上提供较高水平的准确性。

Jul, 2020

深度学习在许多领域都展现出其超凡表现，但仅仅依靠大量标记数据来训练模型并不能保证其在面临目标域的分布变化时仍有出色的表现，无监督域自适应通过利用源领域标记数据和目标领域未标记数据来解决该问题，并已在自然图像处理、自然语言处理等领域取得了许多令人期待的结果，该文对该领域的方法和应用进行了系统比较，并强调了当前方法的不足及未来研究方向。

Aug, 2022

KD3A 是一种隐私保护的多源领域自适应算法，它通过对来自不同源域的模型进行知识蒸馏来实现域适应，并采用多源知识投票、共识聚焦和 BatchNorm MMD 等方法解决了常规 UMDA 方法中存在的负迁移、安全通信和数据质量等问题，同时相对于其他分散式 UMDA 方法可降低 100 倍的通信成本，且表现也显著优于现有 UMDA 方法。

Nov, 2020

本文提出了一种新的深度学习架构，通过自动发现视觉数据中的潜在域并利用这些信息来学习强健的目标分类器来解决不带标签数据的目标域学习问题，在公共基准测试中表现优于现有的方法。

Mar, 2021

本文提出一种新的任务，称为无监督域扩展（UDE），在此任务中，我们扩展了无监督域自适应（UDA）方法，并引入知识蒸馏域扩展（KDDE）作为 UDE 任务的一般方法。我们的研究表明，KDDE 比四个竞争基线更优秀，同时在源域和目标域上保持高性能。

Apr, 2021

本文提出了一种使用注意力对齐和后验标签分布估计的卷积神经网络自适应无监督域适应的方法，在 Office-31 数据集上超过其他最先进的方法 2.6％。

Jan, 2018

无监督领域自适应 (UDA) 通过利用标记的源数据集并将其知识转移到相似但不同的目标数据集，克服了标记数据的繁琐工作。本文结合 UDA 获得的知识与视觉 - 语言模型的内在知识。通过视觉 - 语言模型生成源数据集和目标数据集的零样本预测，调整分布以凸显获胜概率，同时使用源数据和目标数据以保持相对置信度。我们通过传统的领域自适应方法和自知识蒸馏法结合实现对源数据集的知识获取，并将该方法与一种渐进源域扩展策略 (GSDE) 相结合，结果表明零样本预测也有益处。我们在三个基准测试集 (OfficeHome、VisDA 和 DomainNet) 上进行实验和消融研究，超过了最先进的方法，并在消融研究中展示了我们算法不同部分的贡献。

Dec, 2023

在跨领域模型压缩方面，我们提出了一种新颖的端到端框架，称为 Universal and joint knowledge distillation (UNI-KD)，通过对抗学习方案将源域和目标域之间的通用特征级知识和共享的对数级知识从教师模型传递给学生模型，实现了模型的压缩。在四个时间序列数据集上进行的广泛实验结果表明，我们提出的方法优于最先进的基准模型。

Jul, 2023

本文研究了无监督领域自适应的方法，使用神经网络学习表示来预测重要特征的子集，并探讨了联合训练表示和任务学习者、现有枢轴选择方法的重要性。

May, 2019

本文提出了一种名为 Noisy UniDA 的现实情况下的通用域适应解决方案，它使用卷积神经网络框架来检测源域中带有噪声的样本，查找目标域中的未知类别，并实现源域和目标域的分布对齐。在不同的领域适应设置的广泛评估中，所提出的方法在大多数设置中都比现有方法表现优异。

Apr, 2021