Aug, 2023

人工智能在事实核实方面无效且有潜在危害

PDF
TL;DR人工智能模型在事实检查任务中表现出令人印象深刻的能力，但该研究发现，AI 事实检查在一些特定情况下会对人们的信念和新闻共享意图造成有害影响，这凸显出了 AI 应用潜在危害性并强调了预防或减轻此类意外后果的政策的重要性。
发现论文，激发创造
  • 新闻文章的评级可靠性与偏见：AI 助手是否能帮助每个人？

    通过对 654 名参与者进行研究，发现基于特征解释的算法辅助可以提高新闻的可靠性和偏见认知准确性，但是新闻的阅读和分享频率会影响被辅助程度，政治背景和频繁的阅读可以提高准确性。

    Apr, 2019

  • 自动化而非自动化：以欧洲事实核查组织的需求和实践为基础设计以人为中心的 AI 系统

    为缓解虚假信息的负面影响，需开发自动化 AI 工具来协助事实核查人员。研究者通过应用信息行为研究方法，对欧洲中部事实核查人员进行半结构化深度访谈，通过底部构建的内容分析方法分析其信息行为和所需支持工具的要求，发现对于 AI 研究有实际意义的需要和问题，为此提出了一些建议。

    Nov, 2022

  • 预防虚假新闻检测中过度信任的机器学习解释

    研究表明通过引入可解释的 AI 助手来解释新闻评论平台中的假新闻，有助于改善用户对算法透明度的理解和信任程度，并提高他们的准确性。

    Jul, 2020

  • 面向人类中心的自然语言处理技术在事实核查中的应用现状

    该研究综述了当前 NLP 技术在事实核查方面的能力和局限性，并强调将人性化设计方法融入模型开发，早期与事实核查利益相关者合作以及开展支持人性化事实核查技术的基准开发的必要性。

    Jan, 2023

  • AI 模型 GPT-3 比人类更好地 (错) 信息化我们

    本文评估了招募个体是否能够区分由 GPT-3 生成的虚假信息和真实信息，结论显示 GPT-3 可以产生更准确易懂的信息，但也能产生更具说服力的虚假信息，人类无法区分某条 tweet 是由 GPT-3 还是人类编写。我们从结果中反思了人工智能在虚假信息中的危险性，并探讨了如何提高信息传播来服务于全球健康。

    Jan, 2023

  • 自动检测虚假新闻：当前模型是 “事实核查” 还是 “直觉判断”？

    这篇研究通过多种神经和非神经预处理以及风格转移技术，消除了假新闻检测模型中情感、情绪、词性等易受攻击的指标，从而推断出这些模型中可能隐藏着可操纵的信号，并通过情感向量模型构建进一步证明了这一假设。

    Apr, 2022

  • 自动化事实核查综述

    本文综述了基于自然语言处理的自动事实核查技术及其在相关学科里的应用。该技术使用自然语言处理、机器学习、知识表示和数据库等技术预测声称的可信度，同时介绍了现有数据集和模型，旨在统一各种定义并识别通用概念，最后提出了未来研究的挑战。

    Aug, 2021

  • 自动事实核查：一项调查研究

    该篇论文回顾了涉及自动事实检查的相关研究，包括索取检测和索求验证组件，并探讨了自然语言处理，自动化事实检查的数据集以及提出的各种 NLP 方法在该领域发展方面所做的贡献。

    Sep, 2021

  • 大型语言模型时代中的事实性挑战

    探索大型语言模型（LLMs）的风险、潜在威胁和可行解决方案，以在生成 AI 时代中揭示准确性的各个方面。

    Oct, 2023

  • 缺少反证使得自然语言处理事实核查对于虚假信息不切实际

    研究发现现有的 NLP 辟谣任务定义无法像专业辟谣人员那样驳斥绝大多数谣言，且现有数据集不满足辟谣的要求。同时，研究表明现有的大规模事实核查数据集的模型依赖于泄露的信息，因此无法在真实世界的情况下使用。因此，当前的 NLP 辟谣无法在真实世界的情况下有效应对虚假信息。

    Oct, 2022