本研究提出一种基于知识蒸馏的领域自适应技术,针对多源无监督情感分析数据集,在考虑多个教师及其领域专业性的基础上,实现了最优结果,并提出一种可信度度量方法,用于选择高置信度示例及解决单一源情况下的领域适应问题。
Feb, 2017
本文介绍了一个关于在情感分析中领域适应的研究。我们对领域相似度度量进行了广泛的研究,提出了新的表示方法、度量方法和数据选择。在推文和评论的大规模多领域适应设置中,我们评估了所提出的方法,并证明了它们一致地优于强随机和平衡的基线方法,而我们的选择策略优于实例级选择,并在大型评论语料库上获得了最佳分数。
通过将领域适应问题视为嵌入投影任务,我们提出了一种新的方法,该模型可以将两个单域嵌入空间投影到一个双域空间,以预测情感分类,并在20个来源目标域对情感分类进行领域适应实验,并在高度背离的域中表现明显优于现有技术。
Jun, 2018
本论文提出了一种用于多源无监督领域自适应的专家混合方法,旨在显式地捕获目标示例与不同源域之间的关系,以点到集度量为表达方式,通过元训练无监督地学习这个度量,并在情感分析和词性标注方面进行实验,证明了我们的方法始终优于多个基准线,并可以稳健地处理负迁移。
Sep, 2018
该论文探讨了如何选择多个源来进行领域适应,使用注意力学习算法解决了多源无监督领域适应中的源选择难题,并在情感分类基准测试中表现出更好的性能。
Apr, 2020
提出了基于多源域自适应方法的两种转移学习框架来执行情感分析,其中关键特征是基于权重方案的无监督领域适应框架和基于两阶段训练的无监督领域适应框架,成果展示了比无监督的最新竞争对手更具有实用性的性能表现。
Jun, 2020
利用BERT预训练语言模型,结合领域适应性方法和知识蒸馏算法,提出了一种简单而有效的无监督领域适应方法,称为对抗适应与蒸馏,在30个领域对跨领域情感分类的任务中取得了最先进的性能。
Oct, 2020
本文介绍了一种基于示例的超网络适应算法,主要解决多源适应问题,以及如何应用于自然语言处理领域的领域自适应,实现超网络在情感分类方面的应用。
Mar, 2022
本文介绍了一种模块化的领域适应过程,强调模型生成者和模型使用者可以独立合作,以便更准确地测量文本特性。通过使用两种轻量级技术,本文在使用线性和上下文嵌入模型的四个多域文本分类数据集上证明了这些技术的可靠性,以提高领域外精度,并提出了对模型生成者和使用者的建议。
Apr, 2022
该论文提出了一种称为结构化知识领域自适应(DASK)的新方法,通过利用单词级语义关系来增强域自适应,为跨域情感分类提供了3%的提升。
Jun, 2022