EMNLPSep, 2020

EdinburghNLP 在 WNUT-2020 任务 2 中的表现：利用通用数据增强和 Transformer 模型鉴别 COVID-19 推文中的信息量

PDF
TL;DR本文介绍了我们提交的 WNUT-2020 任务 2 的成果：识别信息量大的 COVID-19 英文推文的半监督学习转换器集成模型，它在测试集上取得了 0.9011 的 F1 值（排名第 7），与使用 FastText 嵌入的基准系统相比表现显著提高。
twitteremergencysocial mediacovid-19transformers
发现论文，激发创造
  • UIT-HSE 在 WNUT-2020 任务 2 中利用 CT-BERT 识别 Twitter 社交网络上的 COVID-19 信息

    以 COVID-Twitter-BERT (CT-BERT) 为基础的变形器模型和微调技术可以有效地识别有用的 COVID-19 相关的 Twitter 帖子，获得了 2020 年 W-NUT 共享任务 2 中排名第三的 F1 分数为 90.94％

    Sep, 2020

  • WNUT-2020 任务 2 中的 InfoMiner：基于 Transformer 的 Covid-19 信息推文提取

    使用 transformers 模型的方法识别社交媒体上的信息性推文，取得了 WNUT-2020 第 10 名的 F1 分数 0.9004。

    Oct, 2020

  • WNUT-2020 任务 2：识别有信息价值的 COVID-19 英文推文

    本文概述了 WNUT-2020 共享任务，重点是识别有信息含义的 COVID-19 英文推文。文章介绍了 10k 推文语料库的建立、开发和评估各阶段的组织、55 个团队提交的最终系统评估结果，并发现大多数提交结果明显高于 fastText 基线。本研究发现在相关语言数据调整预训练语言模型并进行监督训练可以在这个任务中得到很好的表现。

    Oct, 2020

  • 使用 BERT 对具有信息价值的 COVID-19 推文进行分类的 WNUT-2020 任务 2 的 Dartmouth CS

    该篇论文描述了在 WNUT-2020 共享任务 2 中开发的针对 COVID-19 英文推文信息识别的系统。研究者团队利用 BERT 模型进行了文本分类任务，并且通过对 BERT 模型的微调以及将其嵌入特征与推文特定特征连接后再采用支持向量机（SVM）进行训练（即 BERT +），并与一组机器学习模型进行性能比较。结果表明 BERT + 模型在 F1-score 评估指标上得分最高为 0.8713。

    Dec, 2020

  • WNUT-2020 任务 2: 使用集成和对抗训练稳健地识别有价值的 COVID-19 推文的 NutCracker

    使用 COVID-Twitter-BERT 和 RoBERTa 模型实验性地识别 COVID-19 推文，进一步实验了对抗性训练，使我们的模型更加稳健，模型集成达到了 WNUT-2020 任务 2 测试数据中的 0.9096 的 F1 得分，并在排行榜上排名第一，对抗性训练的模型集成也产生了类似的结果。

    Oct, 2020

  • 应对 COVID-19 疫情谣言的变压器技术

    本文提出了在 NLP4IF-2021 共享任务中使用 transformers 对社交媒体上的虚假信息进行检测的方法，并在三种语言的数据集中取得了第四的好成绩，分别为阿拉伯语 0.707，保加利亚语 0.578 和英语 0.864。

    Apr, 2021

  • 基于 Transformer 的自动 COVID-19 假新闻检测系统

    本文报告了一种基于 Transformer 模型（BERT、ALBERT 和 XLNET）的方法来分析 COVID-19 流行病期间社交媒体上共享信息的可靠性，以便快速检测假新闻，减少假信息的传播，该方法在 ConstraintAI 2021 共享任务 COVID19 Fake News Detection in English 中获得了 0.9855 的 f1 值，排名第 5。

    Jan, 2021

  • COVID-Twitter-BERT：一个用于分析 Twitter 上 COVID-19 内容的自然语言处理模型

    该论文介绍了基于 transformer 的 COVID-Twitter-BERT 模型，通过对大量 Twitter 上有关 COVID-19 的消息进行预训练，该模型在五个不同的分类数据集上相较于 BERT-Large 基础模型提高了 10-30％，特别是在 COVID-19 内容（尤其是来自 Twitter 的社交媒体帖子）的分类中表现更突出，从而实现了优化。该模型可以用于文本分类、问答和聊天机器人等自然语言处理任务。

    May, 2020

  • COVID-19 假新闻检测模型的泛化能力

    为了抗击 COVID-19 疫情期间社交媒体上的虚假信息，本文提出两种方法，一是 fine-tuning transformers-based language models，二是通过 influence data cleansing 去除危险的训练实例。通过在两个 COVID-19 虚假新闻测试集上评估模型，我们强调了此任务的模型泛化能力的重要性。最终模型可以达到高性能和模型泛化性能的平衡。

    Jan, 2021

  • CLEF CheckThat! 2020 团队 Alex：使用 Transformer 模型识别值得检查的推文

    本研究提出了一种检测关于 COVID-19 的应该检查的推文的模型，将深度上下文化文本表示与建模推文的社交背景相结合，以帮助应对社交媒体上的虚假信息和广泛传播的假新闻的问题。

    Sep, 2020