MisRoBÆRTa: 变形金刚与错误信息

Apr, 2023

MisRoBÆRTa: Transformers versus Misinformation

Ciprian-Octavian Truică, Elena-Simona Apostol

TL;DR本论文提出了一种基于 transformer 的深度神经集成体系结构（MisRoBÆRTa），用于对谣言的检测，基于一个大型真实新闻文章数据集进行了训练和测试，并且使用两个 transformer（BART＆RoBERTa）来提高分级性能，成果显示 MisRoBÆRTa 在谣言检测任务上表现优于其他 transformer 模型。

Abstract

misinformation is considered a threat to our democratic values and principles. The spread of such content on social media polarizes society and undermines public discourse by distorting public perceptions and generating social unrest while lacking the rigor of traditional journalism. T

misinformation transformer-based deep neural ensemble architecture misinformation detection bart roberta

发现论文，激发创造

基于 Transformer 模型（BERT，ALBERT 和 RoBERTa）在假新闻检测中的性能分析

该研究探索了 transformer 模型，发现 ALBERT 在检测印尼语假新闻方面表现最佳

Aug, 2023

通过 Transformer 模型进行 YouTube 转录上的上下文分析以确定错误信息

介绍了一种新的视频分类方法，通过利用视频转录的文本内容将传统的视频分类任务转化为文本分类任务，并应用迁移学习中的精调和少样本学习方法，通过对 YouTube 的虚假信息视频、伪科学视频以及假新闻数据集的评估，证明了该方法在识别验证信息和误导信息方面的效果。

Jul, 2023

使用基于 Transformer 模型的不同比较方法进行 COVID-19 虚假新闻检测的研究

该研究利用基于转换器的五种模型 (BERT、BERT without LSTM、ALBERT、RoBERTa 和 BERT & ALBERT 混合) 对 COVID 19 虚假新闻进行比较分析，其中 RoBERTa 模型在真假两类中均获得 0.98 的 F1 得分，相比其他模型表现更佳。

Aug, 2022

评估基于 BERT 预训练语言模型在检测谣言方面的表现

本研究提出了使用基于 BERT 的预训练语言模型将文本数据编码为向量，并利用神经网络模型进行分类以检测谣言，进一步比较不同语言模型的表现与可训练参数。然后在不同的短文本和长文本数据集上进行了测试，结果表明该技术的表现优于现有技术，并测试其组合数据集的表现，结果表明大数据的训练和测试对提高技术的性能具有相当大的作用。

Mar, 2022

基于 Transformer 的自动 COVID-19 假新闻检测系统

本文报告了一种基于 Transformer 模型（BERT、ALBERT 和 XLNET）的方法来分析 COVID-19 流行病期间社交媒体上共享信息的可靠性，以便快速检测假新闻，减少假信息的传播，该方法在 ConstraintAI 2021 共享任务 COVID19 Fake News Detection in English 中获得了 0.9855 的 f1 值，排名第 5。

Jan, 2021

应对 COVID-19 疫情谣言的变压器技术

本文提出了在 NLP4IF-2021 共享任务中使用 transformers 对社交媒体上的虚假信息进行检测的方法，并在三种语言的数据集中取得了第四的好成绩，分别为阿拉伯语 0.707，保加利亚语 0.578 和英语 0.864。

Apr, 2021

使用 Transformer 和 TF-IDF 检测 COVID-19 阴谋论

研究者通过设计和应用不同的机器学习模型，在探测虚假新闻方面取得了进展，但现有研究对于快速变化的主题和领域特定词汇的虚假新闻重视不够。本文提出了在特定与 COVID-19 相关主题中进行三项虚假新闻检测任务的方法和结果，并试验了一组基于文本的模型，包括支持向量机、随机森林、BERT 和 RoBERTa。发现预训练转换器可以产生最佳的验证结果，但经过智能设计的随机初始化转换器也可以训练达到接近预训练转换器的准确度。

May, 2022

对假新闻立场的取向：基于深度双向 Transformer 语言模型的立场检测自动化虚假信息评估

本研究旨在探索如何使用大规模深度双向转换器语言模型来准确识别包含虚假信息的新闻文章，通过使用 RoBERTa 深度双向转换器语言模型进行预训练后构建了一个大规模语言模型，在 Fake News Challenge 阶段 1 基准测试中实现了 90.01％的加权准确度，表明了在处理虚假信息识别方面，大规模语言模型可以作为强有力的构建块。

Nov, 2019

使用 BERT 和 fine-tuned RobertA 检测由 AI 生成的新闻

本研究表明，通过针对 BERT 和 RobertA 模型进行微调，在检测 AI 生成的新闻中取得了最好的效果。Roberta 模型的得分为 98％，精度表现卓越，研究结论表明，神经网络可用于识别 ChatGPT 生成的虚假新闻，并表明这些模型在对抗错误信息方面能够发挥重要作用。

Jun, 2023

基于 Transformer 的情感检测方法

本研究探讨了采用不同类型的最先进的转换器模型对文本分类的性能，发现其中 RoBERTa 模型在测试数据集上表现最佳，可用于文本中灾难的检测。此外，我们发现预处理技术，词汇表中单词的性质，不平衡标签和模型参数对学习算法的性能产生影响。

Mar, 2023