基于特征嵌入的无监督域适应
该文章研究了无监督领域自适应的问题,提出一种新的方法,该方法同时学习domain-invariant features和discriminative features,并且以信息论度量作为优化目标,在目标域和源域中训练分类器。经过实验验证,该方法在物体识别和情感分析等任务中表现出了明显的优势。
Jun, 2012
本研究提出了一种无监督方法,学习特定领域的单词表示,以准确捕捉单词语义的领域特定方面,并使用所学习的单词表示进行域适应性处理,以在对多个不同领域对情感分类任务中获得最佳准确性,并显着优于现有基准。
May, 2015
通过将领域适应问题视为嵌入投影任务,我们提出了一种新的方法,该模型可以将两个单域嵌入空间投影到一个双域空间,以预测情感分类,并在20个来源目标域对情感分类进行领域适应实验,并在高度背离的域中表现明显优于现有技术。
Jun, 2018
本文介绍了一种方法,它通过学习领域不变的局部特征模式并联合对齐整体和局部特征统计量,从而进一步实现细粒度特征对齐,并在两个流行的基准数据集上将其与现有的无监督领域适应方法进行比较,证明了我们方法的优越性和对减轻负迁移的有效性。
Nov, 2018
通过适应特征规范实现域适应来解决目标任务的模型性能下降问题,该方法将标准域适应和部分域适应统一计算,并且在 Office-Home 数据集上取得了 11.5% 的性能提升,在 VisDA2017 数据集上取得了 17.1% 的性能提升。
Nov, 2018
该论文提出一种学会学习的方法,通过学习辅助损失本身来提高模型的泛化能力,进而应用于领域推广的问题,包括传统领域推广和异构域推广。实验结果表明,该方法在两种情况下优于现有的解决方案。
Jan, 2019
本研究提出了一种无监督领域自适应方法,通过训练共享嵌入来对齐输入(域)和输出(类)的联合分布,从而使任何分类器对域都不具有特异性。联合对齐不仅确保域的边际分布对齐,还确保标签对齐,并提出了一种新颖的目标函数,鼓励类条件分布在特征空间具有不相交的支持。此外还可以利用对抗正则化来改进没有注释的域上分类器的性能。
May, 2019
本篇综述针对最近的研究进展,对不需要标记目标领域数据的神经无监督领域自适应技术进行了概述,包括从传统非神经方法到预训练模型迁移的方法,并揭示了自然语言处理任务类型中存在的偏见问题以及未来的研究方向,特别是面向 NLP 的超分布通用化需求。
May, 2020
本文探讨了如何利用适当的遮罩策略来提高基于掩蔽的语言模型在领域自适应任务上的性能,并提出了一种有效的训练策略,即通过对更难以恢复的标记进行对抗性遮蔽,以使模型更好地适应目标任务。通过六个无监督领域适应任务,该方法在命名实体识别方面显著优于随机遮蔽策略,提高了1.64个F1分数。
Oct, 2020