ACLMay, 2021
ConSERT:自监督句子表示转移的对比框架
ConSERT: A Contrastive Framework for Self-Supervised Sentence Representation Transfer
Yuanmeng Yan, Rumei Li, Sirui Wang, Fuzheng Zhang, Wei Wu...
TL;DR本文提出了一种对 BERT 进行自监督 fine-tune 的对比学习框架 ConSERT,通过利用无标签文本解决 BERT 生成句子表示时的崩溃问题,进而提高了 sentence representations 的应用性能,实验结果表明在 STS 任务上优于之前的 SOTA 达 8%,并且在与 1000 份样本的情况下表现稳健。