Jul, 2022

使用人工智能提高维基百科的可验证性

PDF
TL;DR使用神经网络为基础的系统 Side 帮助鉴定并更换可能无法验证主张的 Wikipedia 引用，结果表明人类对 Side 建议的更好的引用的选择有 70% 的偏好率。这为辅助事实核查并提高信息可靠性提供了潜在的新途径。
wikipediaverifiabilitycitationsartificial intelligencefact checking
发现论文，激发创造
  • 引文需求：对维基百科可验证性的分类和算法评估

    本文旨在对 Wikipedia 的文献引用结构进行实证研究，通过构建分类法对内联引文的必要性理由进行分类，并设计算法模型以确定声明是否需要引用，并根据分类法预测引文原因。

    Feb, 2019

  • 维基百科文章的自动质量评估 —— 系统文献综述

    维基百科是世界上最大的在线百科全书，但通过合作维护文章质量是具有挑战性的。本文回顾了现有的自动测量维基百科文章质量的方法，并识别和比较了机器学习算法、文章特征、质量指标和使用的数据集，检查了 149 个独立的研究，并探讨了它们之间的共同点和差距。然而，机器学习在维基百科中仍未被广泛使用，我们希望我们的分析能帮助未来的研究人员改变这种现状。

    Oct, 2023

  • Verif.ai: 朝向一个开源科学生成式问答系统的目标，带有参考和可验证的答案

    该研究论文介绍了项目 Verif.ai 的最新进展，它是一个开源的科学生成问答系统，具有参考和验证答案功能。该系统的组成部分包括信息检索系统、Fine-tuned 生成模型和验证引擎，通过结合语义和词汇搜索技术、引用参考文献以及跨检核生成的观点与原始论文进行验证，以增强科学家的生产力并建立对生成语言模型在科学环境中使用的信任。

    Feb, 2024

  • 走向可信的 AI 开发：支持可验证声明的机制

    本报告探讨了不同利益相关者所能采取的各种措施，以改善人工智能系统及其相关开发过程的安全性、公正性、隐私保护等方面的证明，分析了十种机制，并提出了旨在实施、探索或改进这些机制的建议。

    Apr, 2020

  • 实现可验证的人工智能

    本文从形式方法的角度考虑了 “可验证的人工智能” 这一目标。描述了实现可验证人工智能所面临的五个挑战及相应的五个解决原则。

    Jun, 2016

  • 评估生成搜索引擎中的可验证性

    本研究对四款流行的生成式搜索引擎进行了人工评估，并发现现有的生成式搜索引擎的响应流利且具信息，但常常包含不支持的陈述和不准确的引用，尤其是其款式逼真的特点使我们更需要开发具有信任度的生成式搜索引擎。

    Apr, 2023

  • 不要信任，总是验证：可信 AI 的路线图？

    本文对基于人工智能技术的系统的可验证性与数据存在的偏差问题进行了讨论，并提出了可信 AI 所需满足的一些属性和模型。

    Jun, 2022

  • DeClarE: 使用证据感知深度学习揭穿虚假新闻和假言论

    本研究提供了一种端到端模型，该模型可对文字主张进行证据感知的可信度评估，不需要任何人类干预，并通过聚合来自外部证据文章的信号，这些文章的语言以及其来源的可信度来生成用户可理解的解释，从而提高了之前工作的局限性，实验证明其有效性。

    Sep, 2018

  • Wiki-Reliability: 一个面向维基百科内容可靠性的大规模数据集

    本文介绍了 Wiki-Reliability 数据集，该数据集是由标记为具有广泛内容可靠性问题的英文维基百科文章构建的，主要应用于内容可靠性预测的机器学习和信息检索算法的研究。

    May, 2021

  • VerifAI：验证生成型人工智能

    通过从数据管理的角度分析多模态数据湖中的底层数据，包括文本文件、表格和知识图谱，并评估其质量和一致性，我们可以确保生成型人工智能的正确性，提升透明度，并更加自信地进行决策。我们的愿景是促进可验证的生成型人工智能的发展，为人工智能的可信和负责任使用做出贡献。

    Jul, 2023