ACLJun, 2021

生成式预训练语言模型可作为封闭式问答知识库吗？

PDF
TL;DR本研究探索了使用预训练语言模型作为知识库回答开放性问题的方法，构建了一个新的 SQuAD 数据集对 BART 进行了评估，并发现对 BART 来说，在高精度记忆训练事实和回答封闭式问题方面存在挑战，需要将知识记忆过程与 QA 微调过程分开，强制模型在回答问题时记住相关知识。
pre-trained language modelsclosed-book qabartknowledge memorizingquestion answering
发现论文，激发创造
  • 上下文生成改善开放域问答

    我们提出了一个采用粗到细方法提取相关知识和回答问题的两阶段闭书问题回答框架，实验结果显示我们的方法明显优于先前的闭书 QA 方法并与利用外部知识源的开书方法相当。

    Oct, 2022

  • 预训练语言模型在简单知识图谱问答中的实证研究

    本文针对知识图谱问答中不同预训练语言模型的性能对比，基于两个基本框架和三个基准数据集进行了实验和分析，结果表明知识蒸馏和知识增强技术对于知识图谱问答有很大的帮助；同时，该文还测试了 ChatGPT 在零样本知识图谱问答方面的表现，最终发布了相关代码与基准数据集供后续研究使用。

    Mar, 2023

  • 语言模型作为知识库吗？

    通过对预训练语言模型的深入分析，我们发现未经微调的 BERT 模型竞争传统 NLP 方法的关系知识，可以根据开放式关系进行查询，某些类型的事实知识比标准语言模型预训练方法更容易学习，并可以作为无监督的开放式 QA 系统的潜力展现。

    Sep, 2019

  • BookQA: 挑战与机遇的故事

    本论文介绍了一个基于纯文本书籍进行问答的系统（BookQA），使用记忆网络对问题进行推理，并对前人的工作进行了改进，包括 BERT 检索和基于书句生成的预训练。在最新的 NarrativeQA 语料库的测试中，我们证明了这种方法的可行性和需要进行更多的研究，如文本表示，相关段落的检索和推理。

    Oct, 2019

  • 预训练语言模型是否可应用于基础开放领域对话？

    通过使用预训练语言模型，我们尝试研究知识相关对话生成的相关性，发现在使用仅包含少量知识对话的细调过程中，预训练语言模型可以超越需要外部知识的最先进的模型，在自动评估和人类判断方面表现更好。

    Nov, 2020

  • 答案候选类型选择：封闭式问答文本到文本语言模型遇到知识图谱

    在这篇论文中，我们介绍了一种在预训练的 Text-to-Text QA 系统基础上解决问题的简单而有效的方法，通过基于 Wikidata 的 instance_of 属性对生成的候选答案进行过滤和重新排序，从而解决了模型能力有限且对于不太受欢迎实体的质量降低的问题。

    Oct, 2023

  • 战略性学习：学习如何在闭卷问答中进行遮盖

    通过训练遮盖策略，从而在中间预训练阶段将任务相关知识封装到语言模型的参数中，该方法在 TriviaQA 上的表现优于强启发式方法，而用于 BART 的表现则更为强大。

    Dec, 2020

  • BeamSearchQA: 大型语言模型是强大的零样本问答求解器

    本研究提出了一个名为 BeamSearchQA 的新型问题回答管道，它通过使用大型语言模型迭代地生成关于原始问题的新问题，从而启用一个迭代推理过程，以便更好地捕捉和利用隐藏知识。实验结果表明，BeamSearchQA 明显优于其他零 - shot 基线，在处理开放性领域问题回答方面具有很强的有效性。

    May, 2023

  • 基于 Transformer 的语言模型在抽取式问答中的比较研究

    本文旨在研究和比较不同的预训练语言模型在回答问题的能力上的表现，通过使用 Bert-BiLSTM 结构模型的效果来检验双向流的加入是否能够提高模型性能，并发现 RoBERTa 和 BART 表现最佳。

    Oct, 2021

  • 关于在持续预训练中有效地学习知识

    通过定义知识裸露和无知识 token 并对样本进行专业标注，该研究发现 PLMs 在从非结构化文本中获取知识方面存在困难并开发了两种解决方案来帮助模型进行更多的知识自学习，实验证明了这些方法的有效性，是第一次探索做到完全自我监督的知识连续预训练。

    Apr, 2022