May, 2024

在气候错误信息中检测谬误：技术认知方法用于识别误导性论证

PDF
TL;DR气候变化的错误信息是一个复杂的社会问题，在技术和心理学交叉领域需要综合性、跨学科的解决方案，本研究提出了一种 “技术认知” 方法，将心理学和计算机科学研究综合起来，通过解构气候变化的错误信息进行分类，培训模型以检测这些错误信息中的谬误。
misinformationclimate changetechnocognitive approachfallaciesdetecting
发现论文，激发创造
  • 逻辑谬误检测

    本研究提出了逻辑谬误检测任务，并提供一个包含逻辑谬误的数据集 Logic 及其子集 LogicClimate，希望能通过一个理解论据基础逻辑结构的新型分类器来解决传统大型语言模型效果较差的问题，该任务可作为语言模型的新型推理挑战，并在打击错误信息传播方面发挥重要作用。

    Feb, 2022

  • Missci: 重建被曲解的科学错误

    通过介绍新的论证理论模型和一个针对误传的数据集 Missci，我们在零 - shot 设置下评估了两个代表性的大型语言模型（LLMs）的关键推理能力，结果表明 GPT 4 取得了有希望的成果，同时也展示了这一任务的难度。

    Jun, 2024

  • 增强型 CARDS：一种用于在 Twitter 上识别气候变化错误信息触发器的机器学习方法

    应对气候变化的自动化检测引发了关于气候变化的错误信息传播以及对社会福利构成了重大威胁的紧迫需求，本研究通过开发了一个两步骤的层次模型 —— 增强 CARDS 模型，专门用于检测推特上的气候异议观点，然后将其应用于 2022 年的六个月内的五百万条气候主题推文，并发现推特上超过一半的气候异议观点涉及对气候行动者的攻击或阴谋论，气候异议行为的激增与政治事件、自然事件、异议观点传播者或信奉者之一的出现同时发生，在自动化应对气候错误信息方面的意义也得到了讨论。

    Apr, 2024

  • 大型语言模型中的气候虚假信息去除

    气候变化的误导信息是解决人类面临的最严重威胁之一的关键障碍，本文研究了大型语言模型在气候信息方面的事实准确性。通过使用真假标记的问答数据对语言模型进行微调和评估，比较了开源模型，并评估它们对气候变化问题生成真实回答的能力。我们还研究了故意注入虚假气候信息的模型的可检测性，并发现这种注入可能不会影响模型在其他领域中的回答准确性。此外，我们比较了取消学习算法、微调和检索增强生成（RAG）在事实上对语言模型在气候变化主题上的基础的有效性。我们的评估揭示了取消学习算法对于微妙的概念性主张可能是有效的，尽管之前的研究发现它们在隐私情境下无效。这些见解旨在指导更具事实可靠性的语言模型的发展，并强调了保护语言模型免受误导攻击的额外工作的必要性。

    May, 2024

  • 基于语言模型的案例推理在逻辑谬误分类中的应用

    提出了基于案例推理和语言建模技术的方法，探讨在检测 Web 上的逻辑谬误方面提高模型精确性和泛化能力的策略，并在实验中证实关键识别案例在模型精确性中具有重要作用。

    Jan, 2023

  • 多任务基于指令提示的谬误识别

    此研究采用基于 T5 模型的多任务学习，解决了识别多种领域和类型的 28 种谬误的问题，并研究了模型大小、提示选择和注释质量等因素对性能的影响。

    Jan, 2023

  • 运用有说服力的写作策略进行虚假信息检测

    本研究旨在利用自然语言处理技术，通过对语言文本中的说服写作技巧进行分类，进一步提高自动化的谣言检测的准确性与可理解性。通过利用 RoBERTa 模型的高性能，本研究提出了多种基于语言模型的基准测试，研究表明标注分类的数据可以提高谣言检测的准确性与可理解性。

    Nov, 2022

  • 利用大型语言模型自动核实气候变化声明

    本文介绍了一个名为 Climinator 的新型基于人工智能的工具，用于自动化检验气候变化论断。Climinator 利用来自 IPCC 报告和同行评审的科学文献等权威来源的多个大型语言模型，采用创新的调解者 - 拥护者框架，有效综合不同的科学观点，得出坚实、以证据为基础的评估结果。研究结果表明，在从 Climate Feedback 和 Skeptical Science 收集的论断测试中，我们的模型表现出了非凡的准确性。值得注意的是，将气候科学否认观点的拥护者纳入我们的框架中，Climinator 的循环辩论过程可靠地趋于科学共识，突显了其将多样化观点整合为基于科学的事实结论的能力。尽管我们的研究存在一定限制并需要仔细解释，但我们的方法具有重要的潜力。我们希望激发更多的研究，并鼓励在其他领域，包括政治事实检验和法律领域，探索其适用性。

    Jan, 2024

  • 人与机器协作的虚假信息检测：立场、情感，还是其他什么？

    该论文研究了如何利用情感分析、面向方面的情感分析和立场检测等机器学习技术以开发部分自动化的虚假新闻检测系统，并使用 COVID-19 散布虚假信息的四个数据集来测试这些技术的有效性

    Nov, 2021

  • 一种用于情感辅助气候变化推文立场检测的多任务模型

    本文提出了一个基于 Twitter 的分类分析框架，可以对气候变化方面的推文进行情感和态度分析，并基于此进行气候变化持有者的分类，以此为决策者提供有效决策参考。

    Nov, 2022