Feb, 2024

基于数据中心化方法的无监督领域泛化：来自网络规模多模态数据的检索

PDF
TL;DR该研究论文探讨了领域泛化和无监督领域泛化问题，提出了一种在多模态场景下构建数据集的新方法，并在不同的基准测试上与其他方法进行了比较，取得了较高的准确性。
domain generalizationunsupervised domain generalizationmultimodallabel spacesdataset construction
发现论文，激发创造
  • 无监督域泛化

    本研究旨在探索如何通过无监督学习帮助深度模型跨域泛化。通过预训练无标签数据，DARLING 方法可以从根本上改善有限标记数据的不足，增强模型的泛化能力。

    Jul, 2021

  • 走向统一而有效的领域泛化

    我们提出了一个新颖的 $UniDG$ 框架，用于 $ extbf {D}$ 应 $ extbf {G}$ 泛化，它能够显著提高基础模型的超出分布泛化性能，而无论它们的体系结构如何。UniDG 的核心思想是在推断阶段微调模型，从而节省了迭代训练的成本。具体来说，我们鼓励模型以无监督的方式学习测试数据的分布，并对模型参数的更新步骤施加惩罚。这个惩罚项可以有效地减少灾难性遗忘问题，因为我们希望尽可能地保留原始模型中的宝贵知识。根据实证，对于 12 个视觉骨干，包括卷积神经网络（CNN）、多层感知器（MLP）和 Transformer-based 模型，参数范围从 1.89M 到 303M 个，UniDG 在 DomainBed 上平均准确度提高了 + 5.4%。这些性能结果证明了 UniDG 的优越性和多功能性。代码公开可用于此网址。

    Oct, 2023

  • 克服跨领域数据不平衡的半监督领域泛化

    本文介绍了一种名为 ProUD 的新算法，通过领域感知原型以及标记和未标记领域的不确定性自适应混合，有效地学习领域不变特征，解决了领域之间数据不平等的问题，并在三个不同的基准数据集上进行的实验证明了 ProUD 的有效性，胜过所有基线模型，包括单领域泛化和半监督学习。

    Mar, 2024

  • BEV-DG: 基于鸟瞰图的跨模态学习用于 3D 语义分割领域泛化

    跨模态无监督领域自适应旨在利用二维 - 三维数据的互补性来克服新领域中缺乏注解的问题。本研究提出了基于鸟瞰图的跨模态学习方法，用于三维语义分割的领域泛化。通过鸟瞰图下的交叉模态学习，优化了与领域无关的表示建模，同时提出了鸟瞰图驱动的领域对比学习方法来建模领域无关的表示。在三个三维数据集上，BEV-DG 在所有设置中明显优于现有方法，差距显著。

    Aug, 2023

  • 更好的伪标签：用于半监督领域通用问题的联合领域感知标签和双分类器

    本文提出了一种新颖的深度框架，利用半监督域泛化技术，通过联合领域感知标签和双分类器生成高质量的伪标签来解决从观察源域到预测未知目标域之间的领域差异问题，同时当准确的伪标签为无标签源域生成时，使用域混合操作增加标记和未标记域之间的新域，有助于提高模型的泛化能力，并在公开的 DG 基准数据集上展示了所提出的 SSDG 方法的有效性。

    Oct, 2021

  • 领域增强元学习的开放域泛化

    本文研究了开放域泛化的问题，提出了一种基于元学习的域增强框架 (DAML)，通过特征层次和标签层次上的增强，综合不同领域的知识，提高在不同领域泛化能力的性能。实验结果表明，DAML 方法在未知领域识别方面表现优越。

    Apr, 2021

  • SimMMDG: 一个简单而有效的多模态领域泛化框架

    通过在多模态情境中将特征分为模态特定和模态共享组件，并运用监督对比学习对模态共享特征施加距离约束，以促进多样性，并引入跨模态转换模块来规范学习特征，以达到领域泛化的目标。

    Oct, 2023

  • 提升伪标记和改善半监督领域泛化的鲁棒性

    我们提出了一种新的半监督领域泛化方法，利用模型平均的不确定性引导伪标签技术，在有限标签的情况下缓解对源领域的过拟合，并在关键代表性领域泛化数据集上证明了其有效性。

    Jan, 2024

  • 基于语义数据增强的距离度量学习用于领域泛化

    该论文研究了如何通过采用特征空间中的隐式语义增强来提高模型的泛化性能，并将距离度量学习（DML）的额外损失函数和无限增强的交叉熵损失的 logits 作为 DML 损失的输入特征。实验表明，该方法在 Digits-DG、PACS 和 Office-Home 三个基准测试数据集上可以实现最先进的性能水平。

    Aug, 2022

  • SUG: 三维点云分类的单数据集统一泛化

    本文提出了一种仅利用一个源数据集来缓解模型在面对新领域数据时遇到的未知领域差异的方法 - Single-dataset Unified Generalization（SUG）框架，主要包括 Multi-grained Sub-domain Alignment（MSA）方法和 Sample-level Domain-aware Attention （SDA）策略，实验表明我们的方法可以提高 3D DG 问题中模型的泛化能力。

    May, 2023