Mar, 2024

打击谣言的未来？检索、筛选和生成

PDF
TL;DR人工智能生成的内容 (AIGC) 技术发展促进了谣言传播，影响了社会、经济和政治生态系统，挑战了民主。我们提出了一种全面的辟谣过程，不仅可以检测谣言，还可以提供解释性生成内容来驳斥信息的真实性。我们设计的 “专家 - 公民集体智慧”(ECCW) 模块确保了对信息可信度的高精度评估，而检索模块则负责根据信息关键词从实时更新的辟谣数据库中检索相关知识。通过使用提示工程技术，我们将结果和知识输入到大型语言模型 (LLM) 中，实现了令人满意的辨别和解释效果，同时省去了微调的需要，节省了计算成本，为辟谣工作作出了贡献。
artificial intelligence generated contentrumor detectionmisinformationexpert-citizen collective wisdomprompt engineering techniques
发现论文，激发创造
  • 虚假人工智能生成内容（FAIGC）：理论、检测方法和机会综述

    最近几年，大型语言模型和扩散模型等生成人工智能模型在内容生产方面产生了革命性的影响，其生成的内容已嵌入到日常生活和工作的各个方面，涵盖了文本、图像、视频和音频。尽管人工智能生成的内容的真实性越来越高，接近人类创作水平，但这些技术也导致了伪造的人工智能生成内容的出现，给真伪信息的鉴别带来了新的挑战。本文提出了一个新的分类方法，更全面地介绍了目前伪造的人工智能生成内容的方法。接下来，我们探讨了伪造的人工智能生成内容的模态和生成技术，归类为人工智能生成的虚假信息和误导信息。在多个角度上，我们介绍了伪造的人工智能生成内容的检测方法，包括欺骗性伪造的检测、深度伪像的检测和错觉性伪造的检测。最后，我们讨论了未来研究的重要挑战和有希望的研究领域。

    Apr, 2024

  • 基于极大语言模型的谣言评估

    利用会话式引导工程的大型语言模型来对抗数字虚假信息，通过扩展 RumourEval 任务的研究努力，从事推特数据集的真实性预测和立场分类，以 AI 社会公益为主要目标。

    Apr, 2024

  • 基于证据驱动的在线虚假信息检索增强响应生成

    通过从科学性来源收集支持证据并基于这些证据生成反错误信息响应，RARG（检索增强的在线错误信息响应生成）方法在 COVID-19 案例中展示了在数据集上始终优于基准的产生高质量反错误信息响应。

    Mar, 2024

  • CED：可信的社交媒体谣言早期检测

    这篇论文提出了一种名为可信早期检测 (CED) 的新颖的谣言检测模型，它将所有谣言候选人的转发视为一个序列，通过寻找一个早期的时间点进行可信预测，能够显著减少预测时间跨度超过 85％并优于所有现有基线的准确性表现。

    Nov, 2018

  • 分辨和解答：通过鉴别器缓解检索增强模型中错误信息的影响

    本文研究了现有检索增强语言模型在面对包含错误信息的检索文档时的健壮性问题，并通过在微调和上下文几次学习中显式微调鉴别器或提示来提高检索增强语言模型对错误信息的容忍度，并揭示了有关在上下文学习过程中将微调模型决策与合并的最佳路径。

    May, 2023

  • 估计谣言验证模型的预测不确定性

    本文研究如何将模型和数据的不确定性估计融入自然语言处理模型中，用以辨识在线谣言，我们提出了两种基于不确定性的算法，并证明可以优先处理容易出错的实例进行人工事实核查。同时，我们还展示了如何使用不确定性估计来解读谣言传播中的模型表现。

    May, 2020

  • 重新寻求真相：多轮检索增强的大型语言模型是强大的假新闻检测器

    通过多轮检索策略从网络源自动抽取关键证据进行主张验证的检索增强 LLMs 框架是第一种能自动地并有目的性地从网页信息中提取关键证据的框架，通过在三个现实世界数据集上进行全面的实验证明了该框架对现有方法的优越性。重要的是，我们的模型不仅提供准确的结论，还提供可读的解释，以提高结果的可解释性。

    Mar, 2024

  • 并非所有语境平等：教授 LLMs 信任感感知生成

    本研究提出了一个通用的 CAG 框架，旨在减轻 RAG 模型中引入的错误信息对生成结果的影响。通过创新的数据转换框架生成基于可靠性的数据，使模型具备辨别和处理信息可靠性的能力。实验证明，该模型在生成中能够有效理解和利用可靠性，显著优于其他带有检索增强的模型，并对噪声文档引起的干扰表现出韧性，从而保持稳健的性能。此外，该模型支持定制的可靠性，有广泛的潜在应用。

    Apr, 2024

  • 社交媒体谣言的检测和解决：一项调查

    本文就社交媒体中的谣言进行了调查研究，介绍和讨论了两种流行的谣言类型，并提出了一个由四个部分组成的谣言分类系统，包括谣言检测、谣言追踪、谣言态度分类和谣言真实性分类。最终总结了社交媒体挖掘中谣言检测和解决的研究方向和建议。

    Apr, 2017

  • 全能型协同学习：谣言辨别

    本文提出一种多任务学习方法，将谣言检测、跟踪、立场分类等环节相结合，从而改善谣言验证性能，并探究了数据集属性与多任务学习模型输出结果之间的联系。

    Jun, 2018