本文探讨了现有的假新闻检测方法存在的问题，并提出加入事实核查与语言分析相结合的方法，以应对新闻篡改攻击和真实新闻被误判的情况。作者提出采用众包知识图谱解决新闻事件事实搜集的问题。

Jan, 2019

在这篇立场论文中，我们分析了在不允许操纵原始目标新闻的情况下如何攻击在线学习检测器的性能，以及攻击者如何潜在地引入污染数据来操纵在线学习方法的行为。我们的初步研究发现，基于复杂性和攻击类型，逻辑回归模型对此具有不同的敏感性。

Dec, 2023

本文研究了大型语言模型时代中的假新闻检测问题，发现仅训练于人工编写文章的检测器在检测机器生成的假新闻方面表现良好，但反之不成立。此外，由于检测器对机器生成的文本存在偏见，需要在训练集中使用比测试集中较低比例的机器生成新闻。基于我们的发现，我们提供了一个实用的策略来开发健壮的假新闻检测器。

Nov, 2023

通过使用 LLMs 自动生成各种具有多样性但连贯的风格转换攻击提示，我们的对抗性样式增强模型（AdStyle）改善了对假新闻的检测性能，并提高了鲁棒性。

Jun, 2024

本文介绍了一种有效的防御机制，其可以用于防御包括图像和标题在内的机器生成的虚假新闻，并通过创建一个包含 4 种不同类型的生成文章的 NeuralNews 数据集以及进行一系列基于此数据集的人类用户研究实验来确定敌方可能会利用的潜在弱点。此外，本文提供了一种相对有效的方法，基于检测视觉语义不一致性的方法，这将成为有效的第一防线和未来防御机器生成的虚假信息的有用参考资料。

Sep, 2020

介绍了一个通过迭代对抗人与模型的程序收集的大规模 NLI 基准数据集，并展示了训练模型在这个新数据集上将导致在各种流行的 NLI 基准测试中的最新性能，同时还带来了更困难的挑战。数据收集方法可以在永不停止的学习场景中应用，成为 NLU 的移动目标，而不是一个很快就会饱和的静态基准测试集。

Oct, 2019

本研究介绍了 Liar 数据集以及一种新型卷积神经网络，该网络能够结合元数据和文本进行表面级别的自动虚假新闻检测，这个可用于事实核查，工具使得这种检测基于事实上的文章变得更容易，从而减少虚假信息带来的实际影响。

May, 2017

在大语言模型 (LLMs) 时代，我们发现许多现有的假新闻检测器存在显著偏见，更容易将 LLMs 生成的内容标记为假新闻，而常常误将人类撰写的假新闻分类为真实。为了解决这个问题，我们引入了一种对抗训练与 LLMs 重写的真实新闻相结合的缓解策略，从而在人类和 LLMs 生成的新闻的检测准确性方面取得了显著的改进。为了进一步推动该领域的研究，我们发布了两个全面的数据集 “GossipCop++” 和 “PolitiFact++”，将经人工验证的文章与 LLMs 生成的假新闻和真实新闻相结合。

Sep, 2023

该报告描述了智能知识管理实验室参加 WSDM 2019 虚假新闻分类挑战的情况。我们使用自然语言推理（NLI）来处理任务，使用最强的 NLI 模型以及 BERT 进行单独训练。我们将这些结果集合起来，分两个阶段对带有嘈杂标签的结果重新训练。我们分析了训练和测试集中的传递性关系，并确定了一组可靠分类的测试用例。其余的测试用例则由我们的集合分类。我们的参赛作品在比赛中取得了 88.063％的测试准确率，获得了第三名。

Jul, 2019

该研究提出了一种新的方法来处理假新闻分类任务，采用与自然语言处理相关的预训练编码器模型及两种神经网络，探讨数据增强的方法以解决数据集中类别数量不平衡的问题，并提出了一种新型的句子否定算法来产生代表少数类的样本，通过实验在保持总体表现不变的情况下，显著提高了在假新闻分类任务中重要但数量不足的少数类上的准确性。

Jun, 2022