大型语言模型能否在社交媒体上检测谣言？

Feb, 2024

大型语言模型能否在社交媒体上检测谣言？

Can Large Language Models Detect Rumors on Social Media?

Qiang Liu, Xiang Tao, Junfei Wu, Shu Wu, Liang Wang

TL;DR利用大型语言模型（LLMs）进行社交媒体谣言检测的研究，提出了一种 LLM - 驱动的谣言检测方法（LeRuD），通过设计提示教给 LLMs 在新闻和评论中进行推理，并将整个传播信息分割为传播链以减轻 LLMs 的负担，通过在 Twitter 和微博数据集上的实验，LeRuD 在谣言检测方面表现出色，超过了几种最先进的模型，并且通过应用 LLMs，LeRuD 无需训练数据，在少量或零样本情景中显示出更有前景的谣言检测能力。

Abstract

In this work, we investigate to use large language models (LLMs) for rumor detection on social media. However, it is challenging for LLMs to reason over the entire propagation information on →

large language models rumor detection social media llm-empowered rumor detection chain-of-propagation

发现论文，激发创造

基于极大语言模型的谣言评估

利用会话式引导工程的大型语言模型来对抗数字虚假信息，通过扩展 RumourEval 任务的研究努力，从事推特数据集的真实性预测和立场分类，以 AI 社会公益为主要目标。

Apr, 2024

大型语言模型是否能理解内容和传播路径以检测虚假信息：一个实证研究

大型语言模型在虚假信息检测任务中的性能研究显示，多样的启发式方式和多个实例学习策略可以提高大型语言模型在文本和传播结构理解方面的检测性能，突出了大型语言模型检测虚假信息的潜在能力。

Nov, 2023

重新寻求真相：多轮检索增强的大型语言模型是强大的假新闻检测器

通过多轮检索策略从网络源自动抽取关键证据进行主张验证的检索增强 LLMs 框架是第一种能自动地并有目的性地从网页信息中提取关键证据的框架，通过在三个现实世界数据集上进行全面的实验证明了该框架对现有方法的优越性。重要的是，我们的模型不仅提供准确的结论，还提供可读的解释，以提高结果的可解释性。

Mar, 2024

零样本跨语言迁移学习实现谣言检测

本研究提出了一种零样本跨语言迁移学习框架，利用预训练的多语言语言模型和自我训练循环来逐步引导目标语言中 ' 银标签 ' 的创建，从而将已训练好的谣言检测模型从源语言适应到另一种目标语言。在英语和汉语谣言数据集上进行评估，证明了该模型在源语言和目标语言的谣言检测方面均明显优于竞争基准。

Sep, 2021

基于传播结构的零样本谣言检测：通过提示学习

本文提出了一种基于远程学习的零样本学习框架，用于检测不同语言环境下不同领域的谣言信息，这种模型通过上下文表征、结构特征以及虚拟响应增强方法提高了对谣言信息的早期检测能力，并在三个实际数据集上得到了比现有模型更好的表现。

Dec, 2022

DELL：基于 LLM 的误信息检测的生成式反应与解释

大语言模型在辨别新闻文章真实性方面，面临真实性和错误漫游的挑战，本研究提出了 DELL 来结合 LLMs，通过生成新闻反应、生成解释和合并专家等三个关键阶段，提高了误报检测的准确性。

Feb, 2024

Twitter 上的谣言检测和分析

本文建立了一个自然语言处理系统来预测谣言并探索了谣言和事实的差异，通过 COVID-19 推文分析，结果表明语言结构是区分谣言和事实的更好特征，而谣言推文中包含更多与政治和负面情绪相关的词汇。

Apr, 2023

辨别虚假信息：在 LLMs 时代的不断挑战

通过回答三个研究问题，本研究探讨了利用大型语言模型（LLMs）生成的谣言和虚假信息对目前存在的谣言检测技术的影响，以及通过使用 LLMs 作为强大的谣言防御手段以及针对这一威胁的新方法的可能性。

Sep, 2023

大型语言模型能否检测科学新闻报道中的错误信息？

使用大型语言模型检测科学报道中的虚假信息，针对缺乏明确标签的情况，提出了多种基于大型语言模型的基准架构和提示方法，包括零样本、少样本和连贯思维提示等。

Feb, 2024

利用大型语言模型在社交媒体中检测影响活动

社交媒体影响力竞选对公共话语和民主构成重大挑战，传统检测方法因社交媒体的复杂性和动态性而力不从心。本文提出了一种新颖的检测方法，利用大型语言模型（LLMs）结合用户元数据和网络结构。通过将这些元素转化为文本格式，我们的方法能够有效处理多语言内容并适应恶意竞选行为者不断变化的策略。通过在多个数据集上进行严格测试，我们验证了模型的有效性，并展示了其在识别影响力竞选方面的卓越性能。本研究不仅提供了一个强大的检测工具，而且为未来改进社交媒体影响策略的快速演变奠定了基础。

Nov, 2023