EMNLPOct, 2022

缺少反证使得自然语言处理事实核查对于虚假信息不切实际

PDF
TL;DR研究发现现有的 NLP 辟谣任务定义无法像专业辟谣人员那样驳斥绝大多数谣言，且现有数据集不满足辟谣的要求。同时，研究表明现有的大规模事实核查数据集的模型依赖于泄露的信息，因此无法在真实世界的情况下使用。因此，当前的 NLP 辟谣无法在真实世界的情况下有效应对虚假信息。
发现论文，激发创造
  • 针对自动事实验证系统的合成虚假信息攻击

    本研究探讨自动事实检查器对人工制造的对抗性证据的敏感性，研究证明这种类型的系统容易受到攻击，并讨论了现代 NLG 系统作为虚假信息生成器的威胁。

    Feb, 2022

  • 面向人类中心的自然语言处理技术在事实核查中的应用现状

    该研究综述了当前 NLP 技术在事实核查方面的能力和局限性，并强调将人性化设计方法融入模型开发，早期与事实核查利益相关者合作以及开展支持人性化事实核查技术的基准开发的必要性。

    Jan, 2023

  • DeClarE: 使用证据感知深度学习揭穿虚假新闻和假言论

    本研究提供了一种端到端模型，该模型可对文字主张进行证据感知的可信度评估，不需要任何人类干预，并通过聚合来自外部证据文章的信号，这些文章的语言以及其来源的可信度来生成用户可理解的解释，从而提高了之前工作的局限性，实验证明其有效性。

    Sep, 2018

  • 自动事实核查：一项调查研究

    该篇论文回顾了涉及自动事实检查的相关研究，包括索取检测和索求验证组件，并探讨了自然语言处理，自动化事实检查的数据集以及提出的各种 NLP 方法在该领域发展方面所做的贡献。

    Sep, 2021

  • 通过自然语言处理进行的假新闻检测容易受到对抗性攻击

    本文探讨了现有的假新闻检测方法存在的问题，并提出加入事实核查与语言分析相结合的方法，以应对新闻篡改攻击和真实新闻被误判的情况。作者提出采用众包知识图谱解决新闻事件事实搜集的问题。

    Jan, 2019

  • 自动化事实核查综述

    本文综述了基于自然语言处理的自动事实核查技术及其在相关学科里的应用。该技术使用自然语言处理、机器学习、知识表示和数据库等技术预测声称的可信度，同时介绍了现有数据集和模型，旨在统一各种定义并识别通用概念，最后提出了未来研究的挑战。

    Aug, 2021

  • 自动事实核查：任务形式，方法和未来方向

    本文通过统一任务格式和方法论，对自然语言处理等多个领域的自动事实核查研究进行了综述，重点强调了证据在这一领域的重要性，并提出了未来研究的方向。

    Jun, 2018

  • 为反驳生成增强知识检索

    通过结合知识图谱的方式，构建了一种自然语言推断模型，用于从网络的多样化来源中检索能够有效证明陈述错误的证据，从而进一步改进了证据检索系统。

    Sep, 2021

  • 实时从新闻文章中检测索取含义相似的事实核查

    本研究提出使用自然语言处理技术来提高事实核查的效率，从而解决新闻界预算紧缩和虚假信息不断蔓延的问题。该方法能够将待核查信息与已有语料库进行比对，返回相似、已经过事实核查的信息，从而实现多人同时核查而不重复工作。

    Jul, 2019

  • 自动检测虚假新闻：当前模型是 “事实核查” 还是 “直觉判断”？

    这篇研究通过多种神经和非神经预处理以及风格转移技术，消除了假新闻检测模型中情感、情绪、词性等易受攻击的指标，从而推断出这些模型中可能隐藏着可操纵的信号，并通过情感向量模型构建进一步证明了这一假设。

    Apr, 2022