Apr, 2023

基于压缩注意力匹配的通用领域自适应

PDF
TL;DR本文提出了一种基于自注意力机制、综合注意力匹配和压缩表示的普适域自适应框架，可用于分类任务，并在多个基准数据集上取得了领先于现有方法的性能。
universal domain adaptationself-attention mechanismcompressive attention matching (cam)common feature alignment (cfa)target class separation (tcs)
发现论文，激发创造
  • 自然语言处理中对分布偏移的稳健处理的普适领域自适应

    部署机器学习系统到未知领域时，需要它们能够有效利用先前的知识，同时对异常输入发出警报。本文提出了一个全面的自然语言基准，以验证模型的普适性和鲁棒性，并观察到原本设计用于图像输入的 UniDA 方法可以有效地迁移到自然语言领域，并强调了适应难度对模型性能的影响。

    Oct, 2023

  • 深度对抗式注意力对齐：无监督域自适应的优势 —— 以目标期望最大化为例

    本文提出了一种使用注意力对齐和后验标签分布估计的卷积神经网络自适应无监督域适应的方法，在 Office-31 数据集上超过其他最先进的方法 2.6％。

    Jan, 2018

  • 通过减少共同类别偏置来进行普适半监督领域自适应

    通过引入新的先验引导的伪标签优化策略，提出了一种改善 UniSSDA 适应性设置中常见类别偏差的方法，有助于在 Office-Home、DomainNet 和 VisDA 等基准数据集上取得最佳性能，并为 UniSSDA 建立了新的基准线。

    Mar, 2024

  • 通用领域自适应物体检测器

    我们提出了 US-DAF 方法来解决通用域自适应目标检测中的负迁移问题，提高在各种尺度下的迁移性和区分性。该方法通过两个模块实现：1）设计一个过滤机制模块来促进公共类的特征对齐并抑制私有类的干扰来克服由于类别偏移引起的负迁移。2）引入新的多标签尺度适应器来进行两个域之间相应尺度的个体对齐。实验表明，US-DAF 方法在三种场景下均达到了最先进的结果，并在 Clipart1k 和 Watercolor 基准数据集上获得了 7.1％和 5.9％的相对改进。

    Jul, 2022

  • 噪声普适领域自适应的发散优化

    本文提出了一种名为 Noisy UniDA 的现实情况下的通用域适应解决方案，它使用卷积神经网络框架来检测源域中带有噪声的样本，查找目标域中的未知类别，并实现源域和目标域的分布对齐。在不同的领域适应设置的广泛评估中，所提出的方法在大多数设置中都比现有方法表现优异。

    Apr, 2021

  • 通过发散最优化实现视觉识别的噪声通用领域自适应

    本文提出了一个名为 “不清晰统一域适应” 的新颖场景，以应对源域中存在噪声数据且目标域中存在未知类别分布的情况。文章将多标头卷积神经网络作为解决该场景下在同一模型中同时解决存在噪声数据、未知类别与源域 / 目标域分布不同等挑战的方法，并在多个场景下验证了该方法的有效性和优越性

    Apr, 2023

  • CDTrans: 跨领域 Transformer 方法的无监督领域自适应

    本文提出了一种基于 Transformer 的无监督领域自适应方法 CDTrans，采用双向中心感知标签算法生成准确的伪标签，采用权值共享的三支架 Transformer 框架对源 / 目标特征学习和源目标领域对齐进行自关注和交叉关注，实现了同时学习区分性领域 - 特定和领域不变表示的显式设计，实验证明该方法在公共数据集上的表现优于现有方法。

    Sep, 2021

  • 跨域对比学习用于无监督域自适应

    该论文提出了一种在无监督领域适应的情况下，采用自我监督学习的对比方法以减少培训和测试集之间的领域差异，实现了简单而有效的领域对齐框架 CDCL，并使用伪标签进行评估， 这种方法可以应用于无需数据源的情况并在图像分类方面取得了最先进的性能。

    Jun, 2021

  • 通用域自适应的子公司原型对齐

    该研究提出了一种基于词袋模型的框架，通过学习中层的词汇原型以及词频直方图进行分类，从而避免了负迁移问题，并在三个常见的领域自适应与开放领域自适应识别基准测试中取得了最优表现。

    Oct, 2022

  • 领域适应注意力模型：无监督跨域人物再识别

    该研究提出了一种新颖的无监督域自适应框架，用于将分类学表示从标记源域（数据集）转换到未标记的目标域（数据集），并使用一种新颖的域相似性损失将域自适应任务制定为一个单类分类问题。

    May, 2019