Sep, 2024

DICS：寻找领域不变和类别特定的特征以实现超出分布的泛化

HTML
PDF
TL;DR该研究解决了深度神经网络在超出分布（OOD）场景中性能下降的问题，提出了一种新颖的DICS模型，以提取领域不变和类别特定的特征。研究发现，通过领域不变性测试（DIT）和类别特异性测试（CST）的方法有效减轻了混淆因素带来的影响，从而增强了分类效果，证明了该模型在目标领域中能够有效识别每个类别的关键特征。
发现论文，激发创造
  • 通过不变特征表示的领域泛化

    本文介绍了一种基于核方法的算法Domain-Invariant Component Analysis，通过最小化域间差异并保留输入输出间的功能关系，学习一个不变转换来实现从已知相关领域到未曾接触领域的知识迁移。学习理论分析表明，减少差异可以提高分类器在新领域上的期望泛化能力。实验结果表明，DICA成功地学习了不变的特征并改善了分类器的性能。

    Jan, 2013

  • 深度域自适应：超越权重共享

    在领域自适应中，为了解决来自不同领域的相关但不同的数据对分类器性能的影响，该研究使用了两个流的架构，其中一个处理源领域的数据，另一个处理目标领域的数据。在有监督和无监督的情况下，该方法均优于现有技术，并在多个物体识别和检测任务中实现了更高的准确性。

    Mar, 2016

  • 带精度约束的对抗不变特征学习用于领域泛化

    提出一种带精度约束的对抗特征学习方法，以解决领域内不变性策略对于将在不同领域中进行分类任务的泛化性能具有负面影响的问题，并在实验验证中证明了该方法的优越性。

    Apr, 2019

  • 通过分布匹配进行到未见过的领域的泛化

    本文探讨监督学习中数据导致的实际问题，着重于领域泛化研究，提出最小化给定领域对之间差异的方法，并在 EEG 数据集中验证了该策略。

    Nov, 2019

  • 在域内外泛化中平衡特异性和不变性的学习

    本研究提出了一种域特定掩码模型，旨在提高领域内和领域外的泛化性能，在PACS和DomainNet中实现与先前的方法竞争性能。

    Aug, 2020

  • 具有类别感知对齐的强健领域无关泛化

    该论文提出了Domain-Free Domain Generalization (DFDG)，一种模型无关的方法，通过学习领域不变的类别判别特征来实现更好的领域泛化性能，具体方法包括使用类别条件软标签来对齐样本的类别关系，使用显著性图来消除训练输入中的表面观察，并在时间序列传感器和图像分类的公共数据集上获得了具有竞争性的性能。

    Feb, 2021

  • DomainDrop：抑制与领域相关的通道以实现领域泛化

    通过增强特征图通道对领域变化的鲁棒性，我们提出了一种新颖的领域泛化方法，实验证明该方法在多个基准测试中取得了最先进的性能。

    Aug, 2023

  • 多尺度和多层次对比学习用于领域泛化

    通过结合多层和多尺度的特征，利用深度卷积神经网络来提高图像分类器的领域泛化能力，并提出了一种新颖的目标函数，使用对比学习的方法约束提取的特征在分布转移下保持不变，实验证明该方法在多个数据集上均表现出与之前方法相比更好的性能。

    Aug, 2023

  • 基于ViT的CNN学习：一种用于领域自适应的显式类别边界的混合模型

    通过设计一种名为明确类别边界(ECB)的混合方法，我们充分利用了ViT和CNN的独特优势，其中ECB利用ViT的特性来显式地找到特定类别的决策边界，同时CNN通过最小化两个分类器的概率之差来对目标特征进行聚类，最终ViT和CNN相互交换知识以提高伪标签的质量和减小模型间的知识差异，相较于传统的领域自适应方法，我们的ECB方法取得了卓越的性能。

    Mar, 2024

  • 解开用于无监督领域泛化的掩码自编码器

    为了解决无监督域泛化任务，我们提出了一种名为DisMAE的新型学习框架，旨在发现可靠地展示内在特征和表面变化的解耦表示，而无需访问类别标签。实验证明，DisMAE在领域泛化和无监督域泛化任务中与最先进的基线方法相比，能够实现竞争性的泛化性能，为提高大规模无标签数据的泛化能力指明了潜在的研究方向。

    Jul, 2024