ACLJan, 2024

Style-News: 基于风格化新闻生成和对抗验证的神经假新闻检测

PDF
TL;DR通过使用出版商元数据以隐含发布者的模板、文本类型、政治立场和可信度，我们提出了一种新颖的验证框架 Style-News，用于防止有害的虚假信息从恶意社交媒体传播，同时通过识别风格与出版商对应以及区分给定新闻的来源是人类撰写还是机器生成，我们训练了一个适应特定出版商生成新闻内容的风格感知神经网络生成器和风格和来源鉴别器。通过整合各种维度指标（语言流畅性、内容保留性和风格遵循性）评估生成内容的质量，我们证明了 Style-News 在流畅性上超过了以前的方法 0.35，内容上高出 15.24，风格上高出 0.38 的幅度。此外，我们的鉴别模型在发布者预测（高达 4.64%）和神经假新闻检测（+6.94%~31.72%）方面优于最先进的基准模型。
发现论文，激发创造
  • 检测跨模态不一致性以防御神经假新闻

    本文介绍了一种有效的防御机制，其可以用于防御包括图像和标题在内的机器生成的虚假新闻，并通过创建一个包含 4 种不同类型的生成文章的 NeuralNews 数据集以及进行一系列基于此数据集的人类用户研究实验来确定敌方可能会利用的潜在弱点。此外，本文提供了一种相对有效的方法，基于检测视觉语义不一致性的方法，这将成为有效的第一防线和未来防御机器生成的虚假信息的有用参考资料。

    Sep, 2020

  • 对抗风格扩充的大型语言模型用于鲁棒假新闻检测

    通过使用 LLMs 自动生成各种具有多样性但连贯的风格转换攻击提示，我们的对抗性样式增强模型（AdStyle）改善了对假新闻的检测性能，并提高了鲁棒性。

    Jun, 2024

  • 防御神经伪新闻

    该研究呈现了一种名为 Grover 的可控文本生成模型，该模型可生成逼真的假新闻，但通过使用 Grover 模型自身进行验证，可提高检测真假信息的准确性。同时，该研究强调在探索和应对类似 Grover 模型可能带来的风险时，需关注其中的道德问题。

    May, 2019

  • 通过自然语言处理进行的假新闻检测容易受到对抗性攻击

    本文探讨了现有的假新闻检测方法存在的问题，并提出加入事实核查与语言分析相结合的方法，以应对新闻篡改攻击和真实新闻被误判的情况。作者提出采用众包知识图谱解决新闻事件事实搜集的问题。

    Jan, 2019

  • 基于图神经网络的社交背景建模用于假新闻检测

    研究分析了基于混合图神经网络和 transformer 模型的社交语境对于发现假新闻的作用，并且在 PolitiFact 和 Gossipcop 数据集上获得了 0.91 和 0.93 的 f1 得分，表现优于基线模型。

    Jul, 2022

  • 面向语言风格的神经网络在假新闻检测中的应用

    提出利用分层递归神经网络进行假新闻的分类，通过学习新闻语言风格识别真假，第一次使用分层语言树和神经网络来辨别新闻真实性，实验结果表明该方法有效，并可以优于现有技术。

    Jan, 2023

  • 羊皮狼心：抗 LLM 强化风格攻击的强假新闻检测

    用大型语言模型 (Large Language Models) 对付在线虚假新闻的研究。

    Oct, 2023

  • 探索在 Grover 上的语义扰动

    本文通过对输入新闻文章进行扰动，对 Grover 模型的虚假新闻检测能力进行了探究，测试了其对抗性攻击的韧性，暴露出一些潜在的漏洞需要在进一步的迭代中解决，以确保其能够准确检测出所有类型的虚假新闻。

    Feb, 2023

  • 伪造假新闻用于真假新闻检测：具有宣传性训练数据生成

    提出一种利用自我批评序列训练和宣传技巧生成更接近人类写作的文章，并创建了一份新的虚假新闻检测训练数据集 PropaNews，结果表明，使用 PropaNews 训练的检测器比使用现有方法生成的数据训练的检测器在检测人类撰写的虚假信息方面的准确性提高了 7.3％至 12.0％。

    Mar, 2022

  • 虚假新闻的预测语言线索：一个社会人工智能问题

    使用机器学习算法分析媒体新闻的语言特征，以区分真假新闻，主要解决神经假新闻生成、机器生成的标题、文本和图像标题之间的语义矛盾等问题。同时提出应用特征集和类别、特征之间的相关性计算相关属性评估指标和计算属性变量的协方差指标来模拟这些问题。其中独特、负面、积极和基数数字特征在度量中得分高，能够提供高的 AUC 和 F1-score。

    Nov, 2022