Jan, 2022
自然语言推理的对偶级别监督对比学习
Pair-Level Supervised Contrastive Learning for Natural Language Inference
Shu'ang Li, Xuming Hu, Li Lin, Lijie Wen
TL;DR本文提出一种基于对偶句子级别的监督对比学习(PairSCL)方法,采用交叉注意力机制学习句子对的联合表示,并使用对比学习目标来区分不同类别的句子对,在两个公共 NLI 数据集上,PairSCL 的准确性平均优于其他方法 2.1%,并在文本分类的七个转移任务上超过了先前的最新方法。