Mar, 2022

高效适配深度神经网络的单向薄适配器

PDF
TL;DR该论文提出了一种新的适配器网络 UDTA，通过为主干网络提供辅助特征来帮助分类器适应新数据。在五个细粒度分类数据集的实验中，UDTA 显著减少了反向传播所需的计算和训练时间，并显示出与传统适配器模型相当甚至更好的准确性。
adapter networkdeep neural networktarget domainudtabackpropagation
发现论文，激发创造
  • UDApter - 使用 Adapter 的高效域适应

    通过在大规模预训练语言模型中插入小的瓶颈层，我们提出了两种无监督领域自适应更加参数高效的方法，通过实验表明，我们的简单方法在自然语言推理和跨领域情感分类任务中性能良好。

    Feb, 2023

  • 简化版神经网络无监督域自适应

    本文研究了无监督领域自适应的方法，使用神经网络学习表示来预测重要特征的子集，并探讨了联合训练表示和任务学习者、现有枢轴选择方法的重要性。

    May, 2019

  • 深度无监督域自适应：近期进展和展望综述

    深度学习在许多领域都展现出其超凡表现，但仅仅依靠大量标记数据来训练模型并不能保证其在面临目标域的分布变化时仍有出色的表现，无监督域自适应通过利用源领域标记数据和目标领域未标记数据来解决该问题，并已在自然图像处理、自然语言处理等领域取得了许多令人期待的结果，该文对该领域的方法和应用进行了系统比较，并强调了当前方法的不足及未来研究方向。

    Aug, 2022

  • 多领域判别器与自适应自训练的无监督领域自适应

    本文提出一种基于无监督域自适应（UDA）的方法，针对城市场景的语义分割应用领域，将深度神经网络从合成数据源，适应到真实数据源上，通过引入对抗模块和自训练策略实现充分对齐两个数据分布，模块化的架构使得模型适用范围更广，实验结果表明该方法的有效性和稳健性。

    Apr, 2020

  • 无监督深度域自适应中的潜在域推断

    本文提出了一种新的深度学习架构，通过自动发现视觉数据中的潜在域并利用这些信息来学习强健的目标分类器来解决不带标签数据的目标域学习问题，在公共基准测试中表现优于现有的方法。

    Mar, 2021

  • 子类型感知动态无监督域自适应

    本文提出了一种自适应细粒度亚型对齐的方法来增强目标域的无亚型标签性能，并利用中间伪标签同时强化亚型内紧凑性和类别之间的分离性。实验结果表明，该方法相比于最先进的 UDA 方法在多视图先天性心脏病数据和 VisDA 以及 DomainNet 数据集上具有显著的改进。

    Aug, 2022

  • 使用传输通道修剪加速深度无监督领域自适应

    本文提出了一种统一的泛域迁移网络压缩方法（TCP）, 以用于提高深度非监督域适应（UDA）模型的计算效率。实验结果表明，TCP 在 VGG16 和 ResNet50 的两个网络结构和两个基准数据集上均能够实现与其他比较方法相当或更好的分类精度，同时显著减少计算成本。

    Mar, 2019

  • 无监督领域适应中的领域自适应扩散

    提出一种新颖的领域自适应扩散（DAD）模块和互学习策略（MLS），通过将源域数据逐渐转化为目标域数据并使分类模型在领域转换过程中学习，成功将领域适应的挑战分解为多个小领域间隙并逐步增强分类模型的能力，从而在三个广泛使用的无监督领域自适应数据集上大幅优于现有最先进方法。

    Aug, 2023

  • 一种新的双向无监督域自适应分割框架

    本文介绍了一种基于 “分离表达学习” 的双向无监督领域自适应（BiUDA）框架，来提高医疗图像分析中深度学习模型在不同领域间迁移性能，实验结果显示该框架优于当前先进的方法。

    Aug, 2021

  • 无精确共享类别的多目标无监督域适应

    本文提出了一种针对具有一个源域和多个目标域的无监督域适应场景 (1SmT) 的模型参数自适应转移的无监督域适应框架 (PA-1SmT)，该框架通过学习一个共同的模型参数词典进行知识转移，并在三个领域适应基准数据集上实验验证了其优越性。

    Sep, 2018