May, 2023

KEPR: 生成通用常识问题回答的知识增强和可信度排名

PDF
TL;DR提出了一种基于知识增强和真实性排名的生成式常识问答方法，其中涵盖关键词的常识知识被用于对问题进行扩展并进行归一化，密集通道检索用于捕获相关知识，而不同的 PLM（BART，GPT2 和 T5）网络用于生成答案。而基于 ELECTRA 的答案排名模型则在训练期间进行逻辑回归，以近似极性分类情况下的不同可信度水平。实验结果表明该方法在 ProtoQA 基准测试上的表现优于现有方法。
generative commonsense question answeringknowledge enhancementplausibility rankingdense passage retrievalelectra-based answer ranking
发现论文，激发创造
  • 通过知识文本转换基准测试知识增强型常识问答

    研究人员基于知识增强的常识问答模型，在多个标准常识问答数据集上进行了大量实验，发现当前模型的知识潜力还远未被充分挖掘，提出了上下文敏感的知识选择、异构知识利用和基于常识的语言模型是未来常识问答的有效方向。

    Jan, 2021

  • 基于知识增强对比提示的少样本抽取式问答

    该论文介绍了一种名为 KECP 的新框架以解决机器阅读理解中的抽取式问答任务中的少样本学习问题，通过转换任务为非自回归掩码语言建模生成问题，并引入外部知识库和上下文来增强嵌入的查询表示，同时通过对比学习目标和 MLM 目标的联合训练来提高 PLMs 的性能。该方法在多个基准测试中都表现出了明显优于最先进方法的性能。

    May, 2022

  • RnG-KBQA: 基于生成增强的迭代排名用于知识库问答

    RnG-KBQA 是一种排名和生成相结合的知识库问答方法，使用对比排名和生成模型来解决一些已有 KBQA 方法中面临的泛化和覆盖问题。实验结果表明，我们的方法在 GrailQA 和 WebQSP 数据集上获得了最新的最高表现，在没有预先训练的情况下也能够一定程度上泛化。

    Sep, 2021

  • 将外部知识融入生成式阅读理解中的问答

    本文提出了一种新的神经网络模型 KEAG，该模型利用外部知识解决 QA 问题，能够比现有的知识感知 QA 模型生成更高质量的答案，并证明其在利用知识方面的有效性。

    Sep, 2019

  • GripRank: 通过生成式知识改进的段落排序填补检索和生成之间的差距

    本文提出了一种名为 GripRank 的算法，它通过从一个生成式的通道评估器到一个通道排名器的知识精华的提炼来解决候选通道在检索过程中被平等对待的问题，并通过设计一套课程知识提炼机制来提升知识的提炼质量，实现了对答案的生成和文本排名的优化，最终在 KILT 基准测试中展现出优于同类方法的结果。

    May, 2023

  • 生成式多跳问答任务的常识推理

    通过提出一种选择基于概念网络的常识信息和一种选择性门控的多头注意力机制，本文提出了一种生成式模型，用于解决阅读理解 QA 任务中的多跳关系抽取问题，并在 NarrativeQA 数据集上创造新的最先进结果。

    Sep, 2018

  • 利用大型语言模型增强企业知识库的问答能力

    通过使用大规模语言模型（LLMs），我们提出了一种名为 EKRG 的新型检索 - 生成框架，以极低的注释成本实现了企业知识库的问答。通过独特的指令调优方法和针对连贯性思维的微调方法，我们的框架在真实世界数据集上进行了广泛实验，并取得了显著的有效性。

    Apr, 2024

  • 基于图形迭代检索多个知识源来提高常识问答

    该研究提出了一种将多种知识源集成起来的问题回答方法，着重利用基于图的迭代知识检索模块和答案感知的注意机制，从多个知识源中检索和综合背景知识，并在 CommonsenseQA 数据集上实现了最优的表现。

    Nov, 2020

  • 神经生成式问答

    本文提出了一个名为 Neural Generative Question Answering（GENQA）的端到端神经网络模型，可以根据知识库中的事实生成简单问答问题的答案。通过对问题答案对的语料库进行训练，该模型可有效处理问题和答案的变化，并通过参考知识库中的事实生成正确自然的答案，且在问题回答方面的实验证明该模型优于基于嵌入式的 QA 模型和在相同数据上训练的神经对话模型。

    Dec, 2015

  • ProtoQA: 一个面向原型常识推理的问答数据集

    本文介绍了一个新的问答数据集，用于训练和评估人工智能系统在典型情况下的常识推理能力，数据集采用了家庭智慧问答秀中的问题集合，模型评估使用了生成式评估任务，并在多个基线模型中提出了挑战性的性能评估。结果表明，人类表现仍然超过模型成绩，支持任务的挑战性。

    May, 2020