领域迁移中的调整知识可视化
无监督领域自适应 (UDA) 通过利用标记的源数据集并将其知识转移到相似但不同的目标数据集,克服了标记数据的繁琐工作。本文结合 UDA 获得的知识与视觉 - 语言模型的内在知识。通过视觉 - 语言模型生成源数据集和目标数据集的零样本预测,调整分布以凸显获胜概率,同时使用源数据和目标数据以保持相对置信度。我们通过传统的领域自适应方法和自知识蒸馏法结合实现对源数据集的知识获取,并将该方法与一种渐进源域扩展策略 (GSDE) 相结合,结果表明零样本预测也有益处。我们在三个基准测试集 (OfficeHome、VisDA 和 DomainNet) 上进行实验和消融研究,超过了最先进的方法,并在消融研究中展示了我们算法不同部分的贡献。
Dec, 2023
我们提出了一种简单直接的方法来减小不同领域之间的差异,该方法无需进行额外的参数计算,并且可以与基于自训练的无监督领域适应方法无缝集成。通过在潜在特征空间中将目标领域的风格传递给源领域,该模型在决策过程中优先考虑目标领域的风格,在图像级别和浅层特征图级别上解决了该问题,并实现了在目标领域上出色的性能。我们的方法在合成到真实的无监督领域适应任务中取得了显著的性能提升,比如在 GTA->Cityscapes 数据集上达到了显著的 UDA 性能,mIoU 为 76.93%,比先前最先进结果改善了 1.03 个百分点。
Apr, 2024
本文提出了一种基于黑盒分割模型的无监督域自适应解决方案,利用指数混合衰减的知识蒸馏方案逐步学习目标特定表示,并应用无监督熵最小化来规范目标域置信度,最终在 BraTS 2018 数据库上取得了与白盒源模型适应方法相当的性能。
Aug, 2022
该研究提出了一种算法,可以在没有源数据和目标标签的情况下,自动结合适当的权重来组合源模型,以获得与最佳源模型同样好的性能,这为无监督领域自适应提供了实用性的解决方案。
Apr, 2021
本研究针对数据保护、存储和传输等实际场景中普遍存在的源数据访问限制,提供了一篇系统综述文章,介绍了最近提出的无源自适应方法,着重对白盒和黑盒方法进行分类,并详细讨论了各类方法中的挑战以及适用于无源数据的模型在提高泛化能力方面的流行技术和常用基准数据集。
Dec, 2022
本文提出一种基于源模型的无监督域自适应解决方案 SHOTS,在缺乏源数据的情况下,通过信息最大化和自监督伪标签相结合的方式,学习目标特定的特征提取模块,从而使目标域的表示与源假设对齐,并在多个域自适应基准测试中取得了最新的成果。
Feb, 2020
本文提出了一种新的方法,称为反映原型的对比生成和调整方法(CPGA),用于解决源自由的无监督域适应问题,并证明其在三个 UDA 基准数据集上的有效性和优越性。
Jun, 2021
深度学习在许多领域都展现出其超凡表现,但仅仅依靠大量标记数据来训练模型并不能保证其在面临目标域的分布变化时仍有出色的表现,无监督域自适应通过利用源领域标记数据和目标领域未标记数据来解决该问题,并已在自然图像处理、自然语言处理等领域取得了许多令人期待的结果,该文对该领域的方法和应用进行了系统比较,并强调了当前方法的不足及未来研究方向。
Aug, 2022