ICMLFeb, 2020

我们是否真的需要访问源数据？用于无监督域适应的源假设转移

PDF
TL;DR本文提出一种基于源模型的无监督域自适应解决方案 SHOTS，在缺乏源数据的情况下，通过信息最大化和自监督伪标签相结合的方式，学习目标特定的特征提取模块，从而使目标域的表示与源假设对齐，并在多个域自适应基准测试中取得了最新的成果。
unsupervised domain adaptationrepresentation learningsource hypothesis transferself-supervised pseudo-labelingstate-of-the-art results
发现论文，激发创造
  • 基于假设传递和标签传递的源数据缺失无监督域自适应

    本文针对数据保护的要求，提出了一种基于分类模型训练的无监督领域自适应方法：Source HypOthesis Transfer (简称 SHOT)，通过提取目标领域的特征并利用同一假设对原数据和目标数据进行映射，同时利用半监督学习来提高目标域中置信度较低的样本的准确性，实现了卓越的性能及实用价值。

    Dec, 2020

  • 无监督多源域自适应，无需访问源数据

    该研究提出了一种算法，可以在没有源数据和目标标签的情况下，自动结合适当的权重来组合源模型，以获得与最佳源模型同样好的性能，这为无监督领域自适应提供了实用性的解决方案。

    Apr, 2021

  • 无源无监督域自适应：一份调查报告

    本研究针对数据保护、存储和传输等实际场景中普遍存在的源数据访问限制，提供了一篇系统综述文章，介绍了最近提出的无源自适应方法，着重对白盒和黑盒方法进行分类，并详细讨论了各类方法中的挑战以及适用于无源数据的模型在提高泛化能力方面的流行技术和常用基准数据集。

    Dec, 2022

  • 将视觉 - 语言模型的固有知识与无监督领域自适应相结合的自知识蒸馏

    无监督领域自适应 (UDA) 通过利用标记的源数据集并将其知识转移到相似但不同的目标数据集，克服了标记数据的繁琐工作。本文结合 UDA 获得的知识与视觉 - 语言模型的内在知识。通过视觉 - 语言模型生成源数据集和目标数据集的零样本预测，调整分布以凸显获胜概率，同时使用源数据和目标数据以保持相对置信度。我们通过传统的领域自适应方法和自知识蒸馏法结合实现对源数据集的知识获取，并将该方法与一种渐进源域扩展策略 (GSDE) 相结合，结果表明零样本预测也有益处。我们在三个基准测试集 (OfficeHome、VisDA 和 DomainNet) 上进行实验和消融研究，超过了最先进的方法，并在消融研究中展示了我们算法不同部分的贡献。

    Dec, 2023

  • 领域自适应语义分割的样式适应

    我们提出了一种简单直接的方法来减小不同领域之间的差异，该方法无需进行额外的参数计算，并且可以与基于自训练的无监督领域适应方法无缝集成。通过在潜在特征空间中将目标领域的风格传递给源领域，该模型在决策过程中优先考虑目标领域的风格，在图像级别和浅层特征图级别上解决了该问题，并实现了在目标领域上出色的性能。我们的方法在合成到真实的无监督领域适应任务中取得了显著的性能提升，比如在 GTA->Cityscapes 数据集上达到了显著的 UDA 性能，mIoU 为 76.93%，比先前最先进结果改善了 1.03 个百分点。

    Apr, 2024

  • 无监督领域自适应的多源注意力

    该论文探讨了如何选择多个源来进行领域适应，使用注意力学习算法解决了多源无监督领域适应中的源选择难题，并在情感分类基准测试中表现出更好的性能。

    Apr, 2020

  • 基于黑盒源模型的分割无监督领域自适应

    本文提出了一种基于黑盒分割模型的无监督域自适应解决方案，利用指数混合衰减的知识蒸馏方案逐步学习目标特定表示，并应用无监督熵最小化来规范目标域置信度，最终在 BraTS 2018 数据库上取得了与白盒源模型适应方法相当的性能。

    Aug, 2022

  • 通用源自由域自适应

    该研究提出了一种新的两阶段学习过程，以实现无监督域适应并实现源自由部署。在采购阶段，通过利用现有的源数据，在新颖的生成分类器框架中增强了模型拒绝源外分布样本的能力；在部署阶段，通过使用命名为源相似度度量的新型实例级加权机制，提出了一个简单而有效的源自由自适应目标，以设计一个统一的自适应算法，该算法可在各种范畴差异下运作，并实现了卓越的域适应性能。

    Apr, 2020

  • 源无关域自适应仅需少样本微调

    研究表明在无标签目标数据存在特定要求 (如封闭集和标签分布一致) 或实际应用场景 (如 OOB 和标签分布转移) 的情况下，基于无源数据的领域自适应 (SFUDA) 方法具有很大的限制。通过实验证明，使用源预训练模型和少量标记数据的微调方法是一种可靠的解决方案，实验结果表明这种方法的性能优于其他方法。}

    Apr, 2023

  • 语义分割的无监督域自适应重新思考

    该论文研究了利用少量标记数据来对无监督领域适应（UDA）进行数据中心性思考，并探究了如何优选经典的 UDA 方法的超参数和使用少量标记数据进行微调的效果。

    Jun, 2022