BriefGPT.xyz
May, 2020
BERTweet: 英文推文的预训练语言模型
BERTweet: A pre-trained language model for English Tweets
HTML
PDF
Dat Quoc Nguyen, Thanh Vu, Anh Tuan Nguyen
TL;DR
BERTweet是第一个用于英语推文的公共大规模预训练语言模型，通过RoBERTa预训练程序进行训练并表现优于之前的最先进模型，可用于推文文本的各种任务。
Abstract
We present
bertweet
, the first public large-scale
pre-trained language model
for English Tweets. Our
bertweet
is trained using the
→