AAAIMar, 2024

DA-Net：多源跨语言迁移学习的解缠和自适应网络

PDF
TL;DR多源跨语言迁移学习中，通过语言转移从多个标记的源语言传递任务知识到一个未标记的目标语言。本文提出了一种分离和自适应网络（DA-Net），通过反馈引导合作解缠方法清洁分类器的输入表示，从而减轻多个源的干扰；并提出了一种类别感知的并行适应方法，对每个源 - 目标语言对齐类别级别的分布，从而减轻语言对之间的语言差距。实验结果验证了我们方法的有效性，涉及 38 种语言的三个不同任务。
multi-source cross-lingual transfer learninglanguage shiftdisentangled and adaptive networkclassifierslanguage gap
发现论文，激发创造
  • 多源蒸馏领域自适应

    该论文提出了一种新的多源蒸馏领域自适应（MDDA）网络，该网络考虑了多个源和目标之间的不同距离以及源样本与目标样本的不同相似性，通过预先训练源分类器、将目标映射到每个源的特征空间、选择最近的源样本进行微调和使用不同的域权重对不同预测进行聚合等四个阶段实现。实验表明，该方法明显优于现有的方法。

    Nov, 2019

  • 深度学习时代的多源域适应：系统综述

    本文介绍了多源域适应的概念和相关技术方法，探讨了其在深度学习时代的发展趋势和研究方向，为该领域的研究提供借鉴和参考。

    Feb, 2020

  • 解缠表示的领域无关学习

    本文提出了领域无关学习（DAL）任务，旨在解决如何将来自标记源域的知识转移到任意目标域的未标记数据的问题。通过开发一种能够从类别标识中分离出特定于领域的特征的新型深度对抗去耦自编码器（DADA），我们实验性地证明在未知目标域标签的情况下，DADA 在多个图像分类数据集上实现了最先进的性能。

    Apr, 2019

  • 更多就是更好：多源深度域适应

    在深度学习时代，由于很难获得大规模标记数据来训练先进的深度神经网络，因此将已学习的知识从有标签的源领域转移到无标签或稀疏标签的目标领域成为一种吸引人的替代方法，而多源领域适应则是在收集有不同分布的多个源的标记数据中的一个强大而实用的扩展。在本次调查中，我们首先定义了各种多源领域适应策略。接着，我们从不同的角度系统地总结和比较了现代多源领域适应方法，以及常用的数据集和一个简单的基准测试结果。最后，我们讨论了值得探索的多源领域适应的未来研究方向。

    May, 2024

  • 领域自适应集成学习

    本文提出了一种统一的域自适应集成学习（DAEL）框架，通过在多源场景中专用于某个领域的分类器头，以及使用 CNN 特征提取器共享的方式来解决使用多源未标记数据的多源无监督域自适应（UDA）问题和域通用性（DG）问题，来提高 DAEL 模型在 UDCA 数据集和 DG 数据集上的表现。

    Mar, 2020

  • 高效推断的动态领域自适应

    本文提出了一种动态域自适应框架（DDA），该框架可以在低资源情况下实现高效的目标推理，并继承域适应所带来的有利泛化能力，同时应用领域混淆约束来提高适应性能。

    Mar, 2021

  • 判别式标签一致性域自适应

    本文提出了一种新颖的无监督域自适应方法，通过同时优化理论上建立的误差界的三个项，迭代搜索潜在的共享特征子空间，来降低数据分布差异并增加类间距离，以有效学习目标数据的预测器。同时，还考虑了数据异常值的影响以避免负面知识迁移。实验和分析验证了该方法的有效性和优越性。

    Feb, 2018

  • 多源域适应回归

    多源领域自适应算法通过回归问题的两步骤流程，提供了在多个源领域利用信息进行预测的方法，其中使用了灵活的单源自适应算法和集成学习，通过多种学习范式在目标适应学习器中实现线性组合，改进了预测性能。

    Dec, 2023

  • LanDA: 语言引导的多源域自适应

    使用多模态模型和联合图像与语言嵌入空间，我们提出了一种基于最优传递理论的新型语言引导多源域适应（LanDA）方法，可以通过目标域的文本描述进行域适应，而无需任何目标域图像，并且在目标和源域都优于标准微调和集成方法。

    Jan, 2024

  • 跨语言情感分类的对抗式深度平均网络

    该研究提出了一种针对低资源语言情感分类问题的迁移学习技术，通过共享特征提取器和对抗性分支实现跨语言情感分析，并在中文和阿拉伯语情感分类实验中显著优于现有系统。

    Jun, 2016