Feb, 2024

Verif.ai: 朝向一个开源科学生成式问答系统的目标，带有参考和可验证的答案

PDF
TL;DR该研究论文介绍了项目 Verif.ai 的最新进展，它是一个开源的科学生成问答系统，具有参考和验证答案功能。该系统的组成部分包括信息检索系统、Fine-tuned 生成模型和验证引擎，通过结合语义和词汇搜索技术、引用参考文献以及跨检核生成的观点与原始论文进行验证，以增强科学家的生产力并建立对生成语言模型在科学环境中使用的信任。
verif.aigenerative question-answering systemscientific papersgenerative modelverification engine
发现论文，激发创造
  • VerifAI：验证生成型人工智能

    通过从数据管理的角度分析多模态数据湖中的底层数据，包括文本文件、表格和知识图谱，并评估其质量和一致性，我们可以确保生成型人工智能的正确性，提升透明度，并更加自信地进行决策。我们的愿景是促进可验证的生成型人工智能的发展，为人工智能的可信和负责任使用做出贡献。

    Jul, 2023

  • 迈向可靠和事实准确的回答生成：检测信息请求对话中无法回答的问题

    基于 TREC CAsT 基准数据集，我们提出了一种基于生成式 AI 模型的信息检索方法，通过逐步聚合句子级别的分类预测来估计最终的可回答性，从而解决系统信任度以及问题回答精准性的挑战。

    Jan, 2024

  • 评估生成搜索引擎中的可验证性

    本研究对四款流行的生成式搜索引擎进行了人工评估，并发现现有的生成式搜索引擎的响应流利且具信息，但常常包含不支持的陈述和不准确的引用，尤其是其款式逼真的特点使我们更需要开发具有信任度的生成式搜索引擎。

    Apr, 2023

  • 可信的增强检索对话机器人

    对话人工智能存在生成不正确信息或产生幻觉的问题，本研究提出了一种结合了符合预测和全局测试的统计保证的检索增强问答系统，并使用贝叶斯优化来选择全局测试的超参数，通过在自然问题数据集上验证结果表明该方法能够提供所需的覆盖保证并最小化平均预测集大小。

    Jul, 2023

  • PaperQA: 科学研究的增强检索生成代理

    使用 PaperQA，通过对科学文献进行信息检索，评估来源和段落的相关性，并利用 RAG 提供答案的方法，超越现有的 LLMs 和 LLM 代理在当前科学问答基准测试上的表现，使得该代理模型能够进行大规模、系统化的科学知识处理。

    Dec, 2023

  • 使用人工智能提高维基百科的可验证性

    使用神经网络为基础的系统 Side 帮助鉴定并更换可能无法验证主张的 Wikipedia 引用，结果表明人类对 Side 建议的更好的引用的选择有 70% 的偏好率。这为辅助事实核查并提高信息可靠性提供了潜在的新途径。

    Jul, 2022

  • 朝着可验证的文本生成：演进记忆与自我反思

    该论文介绍了一种创新的可验证文本生成方法，利用演化记忆和自我反思进行文本生成。该方法通过保持演化的长短期记忆来保存有价值和最新的文档，利用主动检索和多样化查询生成来增强检索文档的精度和范围，并通过两层的验证器和证据查找器来反思和思考论点与引用之间的关系。在五个数据集上进行了广泛实验，结果表明该方法明显优于现有基准。

    Dec, 2023

  • 能否无幻觉？评估主流人工智能法律研究工具的可靠性

    人工智能在法律实践中的应用产生了假象问题，本文通过评估 AI 驱动的法律研究工具，发现这些工具存在假象问题，并提出了区分假象和准确法律回答的方法，为法律专业人士监督和验证人工智能输出提供了证据。

    May, 2024

  • 教授语言模型通过验证的引文支持答案

    通过强化学习从人类偏好中得出支持性证据，训练生成回答并支持其声称的 “开放式书目” QA 模型。该模型能够从搜索引擎中找到的多个文档或单个用户提供的文档中提取支持证据。通过在 NaturalQuestions 和 ELI5 数据集的子集中进行的人类评估，该模型的响应在这两个子集中 80％和 67％的时间内达到高质量水平，但并非所有声称都被支持的证据是正确的。

    Mar, 2022

  • QA-NatVer: 自然逻辑为基础的事实验证的问答

    使用问题回答预测自然逻辑运算符，不依赖标注数据、具有确定性推理系统的方法，在少样本设置下，在 FEVER 上的准确度比最佳基线提高了 4.3 个百分点，并且在丹麦验证数据集上超过了所有其他方法，展示了系统的鲁棒性和可移植性，通过人工评估得出结论：相较于之前的基于自然逻辑的系统，我们的方法产生了更可信的证据，并且使用更少错误的自然逻辑运算符。

    Oct, 2023