Oct, 2019

从 Transformer 到 Fake News Challenge 立场检测的迁移学习 (FNC-1) 任务

PDF
TL;DR本研究利用 Transformer 架構的 BERT、XLNet 和 RoBERTa 進行 Fake News Challenge 中的立場檢測，將 BERT 句子嵌入應用到模型中，取得了最佳表現和狀態下的成果。
fake news challengestance detectiontransformer architecturebertxlnet and roberta
发现论文，激发创造
  • 针对虚假新闻挑战赛立场检测任务的回顾性分析

    本研究深入分析了 2017 年虚假新闻挑战的实验设置，提出了适用于少数类别的新的评估度量标准，并提出了一个表现与最佳系统相当的新型特征丰富的堆叠 LSTM 模型，同时对其在领域内和领域间的推广效果进行了定量和定性的研究。

    Jun, 2018

  • 在检查虚假新闻的背景下，结合相似度特征和深度表示学习进行立场检测

    本研究利用深度神经网络结合字符串相似度特征，对假新闻检测问题进行了研究，主要包括利用各类神经网络对新闻标题及新闻文章进行编码表示、相似性比较，并探索利用预训练等额外信息的效果，结果表明，在假新闻检测上，该模型略优于之前的最优模型。

    Nov, 2018

  • 对假新闻立场的取向：基于深度双向 Transformer 语言模型的立场检测自动化虚假信息评估

    本研究旨在探索如何使用大规模深度双向转换器语言模型来准确识别包含虚假信息的新闻文章，通过使用 RoBERTa 深度双向转换器语言模型进行预训练后构建了一个大规模语言模型，在 Fake News Challenge 阶段 1 基准测试中实现了 90.01％的加权准确度，表明了在处理虚假信息识别方面，大规模语言模型可以作为强有力的构建块。

    Nov, 2019

  • 卷积神经网络和深度神经网络的组合在假新闻检测中的应用

    本文介绍了 Fake News Challenge stage #1 (FNC-1) 数据集并概述了使用该数据集构建伪新闻检测系统的竞争尝试。通过使用不同的自然语言处理技术处理标题和正文文本，提取特征并使用软余弦相似性方法计算相似度。该系统使用深度学习方法进行分类，除了 “disagree” 类别外，其余类别均达到高准确性，最终分类准确率达到 84.6％，在该数据集上排名第二。

    Oct, 2022

  • 提高多模态假新闻检测的泛化能力

    本文提出了三种基于多模态 transformer 的假新闻检测模型，并通过深入分析操纵数据的方法来探索这些模型在社交媒体上实际使用情况下的性能。研究发现，这些系统在面临被操纵的数据时会出现显著性能下降。为了减少偏差并改善模型的推广能力，本文建议使用数据增强技术对社交媒体上的假新闻检测进行更有意义的实验。所提出的数据增强技术使得模型的泛化能力得到了提高，并获得了最先进的效果。

    May, 2023

  • BaIT: 信息可信度的衡量尺

    该研究提出了一种新的方法来处理假新闻分类任务，采用与自然语言处理相关的预训练编码器模型及两种神经网络，探讨数据增强的方法以解决数据集中类别数量不平衡的问题，并提出了一种新型的句子否定算法来产生代表少数类的样本，通过实验在保持总体表现不变的情况下，显著提高了在假新闻分类任务中重要但数量不足的少数类上的准确性。

    Jun, 2022

  • 基于 Transformer 模型（BERT，ALBERT 和 RoBERTa）在假新闻检测中的性能分析

    该研究探索了 transformer 模型，发现 ALBERT 在检测印尼语假新闻方面表现最佳

    Aug, 2023

  • Fake News Challenge 立场检测任务的简单而强大的基准线

    该论文介绍了一个能够识别公众错误信息、帮助事实核查的简单实用的立场判断系统，它在 Fake News Challenge 的第一阶段中获得第三名，与前两名获胜队伍的复杂集成方法相比表现竞争力，作者将其提议为 Fake News Challenge 立场检测任务的简单但强大的基线。

    Jul, 2017

  • 基于 Transformer 的语言模型微调方法在 COVID-19 假新闻检测中的应用

    本文提出了一种基于变压器的语言模型微调方法，用于检测 COVID-19 假新闻，该方法通过扩展专业短语的语义，适应热身 softmax 损失以区分硬挖掘样本，并通过对抗性训练提高模型的鲁棒性，采用 RoBERTa 和领域专用模型 CT-BERT 提取预测特征，并由一个多层感知器融合细粒度和高级别的特定表示。经 COVID-19 假新闻数据集评估，实验结果在各种评估指标上都表现优越，最好的加权平均 F1 得分为 99.02％。

    Jan, 2021

  • COVID-19 虚假新闻检测和事实核查的两阶段 Transformer 模型

    为了在新冠疫情期间快速检测和减轻假新闻的传播，我们开发了一种基于机器学习自然语言处理模型的两阶段自动化检测流程来检测 COVID-19 假新闻，其中第一模型利用了基于事实检查的算法，通过检索特定 COVID-19 索赔的相关事实，第二模型通过计算索赔和手动策划的 COVID-19 数据集中检索到的真实事实之间的文本蕴含程度来验证索赔的真实程度。

    Nov, 2020