Mar, 2020

通用-特定低秩分解的高效领域泛化

HTML
PDF
TL;DR该论文提出了一种名为CSD (Common Specific Decomposition) 的算法，它能够对神经网络的最终分类层进行修改，从而实现领域通用性。CSD不仅能匹配目前领域内最先进的方法，还可以在领域消除、领域扰动数据增强和元学习等方面取得更好的效果。研究者还对借助CSD，在 MNIST 旋转数据集上将领域特异组件与常规组件进行分离，从而达到更好的领域泛化效果的假设进行了验证。
发现论文，激发创造
  • 特征评论家网络用于异构域通用化

    该论文提出一种学会学习的方法，通过学习辅助损失本身来提高模型的泛化能力，进而应用于领域推广的问题，包括传统领域推广和异构域推广。实验结果表明，该方法在两种情况下优于现有的解决方案。

    Jan, 2019

  • 学习优化针对特定领域的归一化以实现领域泛化

    本研究提出了利用深度神经网络的多源域泛化技术，通过引入特定于各个领域的优化归一化层。在每个域中，根据多个归一化统计的加权平均值对激活值进行归一化处理。并且在实现中使用批和实例归一化，以确定这两种归一化方法的最佳组合，优化学习模型的通用性。本方法在标准域泛化基准测试中展示了当前最高的准确率，同时适用于诸如多源领域适应和带有标签噪声的域泛化等进一步的任务。

    Jul, 2019

  • 基于模型无关语义特征学习的域泛化

    研究域常规化问题及其解决方法，通过使用基于梯度的元训练和元测试过程，引入了两种补充损失来明确地规范特征空间的语义结构，从而取得了两个常见对象识别基准测试的最新效果。

    Oct, 2019

  • 在域内外泛化中平衡特异性和不变性的学习

    本研究提出了一种域特定掩码模型，旨在提高领域内和领域外的泛化性能，在PACS和DomainNet中实现与先前的方法竞争性能。

    Aug, 2020

  • 泛化到未见领域：关于领域泛化的调查

    这篇论文是对近年来领域泛化（即在一个或多个不同但相关的领域中学习出可以推广到看不见的测试领域的模型）领域的最新进展的首次回顾，涵盖了相关的理论、算法、数据集、应用，并提出了未来的研究方向。

    Mar, 2021

  • 利用领域特定特征增强领域泛化

    本文提出了一种新颖的理论框架meta-Domain Specific-Domain Invariant（mDSDI），通过元学习框架优化是领域特定表示，并通过同时学习领域特定和领域不变特点，在潜在空间中区分特征，从而针对源域进行自适应，并在未知域上获得强大的泛化能力，实验证明这种方法在领域一般化中具有竞争力。

    Oct, 2021

  • 域一般化算法的失效模式

    本文提出了一个可以将错误分解成不同泛化方面的组成部分的域泛化算法评估框架，并将其扩展到捕捉实现不变性的各种失败类型。作者表明，域不变表示学习的策略存在两个问题，并提出了一个可行的调整分类器的方向。通过对Colored MNIST和Camelyon-17数据集的评估，作者发现泛化误差的最大贡献因素因方法、数据集、正则化强度甚至训练长度而异。

    Nov, 2021

  • 领域通用化对领域相关类的应用

    该研究论文提出了一个公平且对比度特征空间正则化的算法，名为FOND，旨在学习可以转移源领域知识的、用于表示在特定领域中仅存在的类的广义表示。实验结果表明该算法在提高特定领域类别的泛化表现上取得了最先进的效果，并提供了可行的数据增强实用技巧。

    Jun, 2023

  • DISPEL：领域通用性通过领域特定的解放

    本文从识别不同的属性组作为领域共享或领域特有属性，提出了一个称为DISPEL的后处理微调方法，该方法可以过滤掉嵌入空间中未定义和无法区分的领域特有特征。DISPEL框架高度灵活，可以应用于任何微调模型，实验结果在五个基准测试上表明DISPEL优于现有方法，并且可以进一步推广各种算法。

    Jul, 2023

  • 领域泛化通过元学习: 一项调查

    深度神经网络在人工智能领域带来了革命性的进展，但面对分布转移时常常缺乏性能。传统神经网络假设训练和测试数据服从同一分布，然而实际应用中这一假设经常被违反。元学习作为一种有前景的方法，通过获取可传递的知识来快速适应各种任务，从而消除了从头学习每个任务的需求。本文基于特征提取策略和分类器学习方法的新分类法，全面调查了元学习在领域泛化方面的贡献，详细介绍了该领域的基础知识，并提供了关于未来研究方向的实践见解和深入讨论。

    Apr, 2024