本论文提出了一种用于多源无监督领域自适应的专家混合方法,旨在显式地捕获目标示例与不同源域之间的关系,以点到集度量为表达方式,通过元训练无监督地学习这个度量,并在情感分析和词性标注方面进行实验,证明了我们的方法始终优于多个基准线,并可以稳健地处理负迁移。
Sep, 2018
研究了大型预训练转换模型在无监督多源域自适应中的效果,发现领域对抗性训练对其有影响,但对表现影响不大,同时混合专家方法则显著提高了表现并比较了几种混合函数,包括一种基于注意力的新混合方法。
Sep, 2020
本文提出了一种采用语义条件分布相似性来聚合多源领域的方法,同时在三种常用的场景下选择相关源的框架,并通过实验验证了该方法的有效性。
May, 2021
本文提出了一种使用计算有效的适配器方法在多个不同领域适应的方法,其通过冻结预先训练的语言模型并与每个节点相关联的适配器权重组合,实现相关领域之间的参数共享。GPT-2 和 C4 中最多的 100 个网站上的实验结果表明,这种方法可以全面提高领域内性能,并提供了一种推理时间算法来推出新领域的泛化性能,同时只能增加成本。
Dec, 2021
该研究提出了一种旨在通过监督对比学习将多个领域的文本分类特征对齐到同一特征空间中的稳健对比对齐方法,以实现多领域文本分类,消除了新兴领域增多带来的效率低下问题,从而只需两个通用特征提取器。实验结果表明,该方法在多个领域中效果良好。
Apr, 2022
本论文提出了一种新的多源域自适应的一般化界限,并使用对抗神经网络学习特征表示,取得了在情感分析、数字分类和车辆计数等数据集上显著的适应性表现。
May, 2017
该论文提出了一种新的多源蒸馏领域自适应(MDDA)网络,该网络考虑了多个源和目标之间的不同距离以及源样本与目标样本的不同相似性,通过预先训练源分类器、将目标映射到每个源的特征空间、选择最近的源样本进行微调和使用不同的域权重对不同预测进行聚合等四个阶段实现。实验表明,该方法明显优于现有的方法。
Nov, 2019
多源领域自适应算法通过回归问题的两步骤流程,提供了在多个源领域利用信息进行预测的方法,其中使用了灵活的单源自适应算法和集成学习,通过多种学习范式在目标适应学习器中实现线性组合,改进了预测性能。
Dec, 2023
本文提出了一种基于无监督域自适应和深度聚类的方法,利用来自多个源域的数据信息建立一个与具体域无关的聚类模型,并通过特征对齐和自我监督实现有效地适应目标域。本文的方法即使在少量目标样本的情况下也能自动发现相关语义信息,并在多个域自适应基准测试中取得了最先进的结果。
Aug, 2020
本文研究基于 ImageNet 预训练特征提取器的共同学习框架,以提高面向目标域的伪标记质量并进行迁移学习,同时使用熵最小化来提高非伪标记样本的预测精度,并在三个基准数据集上进行评估。结果显示,该方法优于现有的面向源自由域适应方法和假设联合访问源和目标数据的无监督域适应方法。
Dec, 2022