自监督三元组知识学习用于零样本问答

EMNLPMay, 2020

自监督三元组知识学习用于零样本问答

Self-supervised Knowledge Triplet Learning for Zero-shot Question Answering

Pratyay Banerjee, Chitta Baral

TL;DR本文提出了一种自监督方法 Knowledge Triplet Learning（KTL）来处理知识图谱中的通识和科学知识，实现零样本的问答任务，取得了较大的改进。

Abstract

The aim of all question answering (QA) systems is to be able to generalize to unseen questions. Current supervised methods are reliant on expensive data annotation. Moreover, such annotations can introduce unintended annotator bias which makes systems focus more on the bias than the ac

question answering knowledge triplet learning zero-shot qa knowledge graphs pre-trained transformer models

发现论文，激发创造

多跳通识知识注入框架在零 - shot 通识问题回答中的应用

本文提出了一种新颖的多跳常识知识注入框架，利用多跳推理范式探索符合语言逻辑的知识图关系，并进一步提出了基于知识图的两种多跳问答生成方法。通过对合成 QA 数据集进行对比学习，我们的方法注入了多跳常识知识。在五个常识问题回答基准测试上进行的大量实验表明，本框架取得了最先进的性能。

May, 2023

自问自答：无监督知识引导的语言模型对齐

本文介绍了一种称为 Self-QA 的创新框架，利用大量无监督知识代替传统的人工撰写指导文件种子，从而生成更多正确和特定于领域的指导数据，以克服创建用于指导调整的监督配对问答数据所面临的挑战。

May, 2023

基于多个知识图谱的模块化迁移学习用于零样本常识推理

本文提出一种模块化的知识聚合的零 - shot 常识推理框架，可以在多个不同的知识图谱中应用，提高了常识推理性能。

Jun, 2022

基于零样本知识生成的基于知识的视觉问答

基于预训练语言模型的知识生成方法在知识型视觉问答方面表现优于以往零样本方法，生成的知识普遍相关且有帮助。

Feb, 2024

基于知识驱动的数据构建在常识问答中的零样本评估

本文提出了一种基于神经符号框架的零样本问题回答方法，利用预训练模型的外部知识资源，获得了在不同任务中的一致性提升，并且在任务结构保持的同时还生成了公平和信息丰富的问题，从而提高了语言模型的学习效果。

Nov, 2020

基于语义三元组和知识图谱的零 - shot 事实检查

本文提出了一种新的零射击方法，将声称和证据句子转化为语义三元组并使用大型语言模型进行自然语言推理，从而在没有特定训练数据的敌对数据集和领域中广义推广，在 FEVER、FEVER-Symmetric、FEVER 2.0 和 Climate-FEVER 数据集上优于先前的零射击方法，同时在敌对和异域数据集上与监督模型相当甚至更好。

Dec, 2023

基于填空翻译的无监督问答

本文探讨了利用无监督方法合成训练集数据以及不匹配的语料库训练 NMT 模型作为 cloze-to-natural question translator 来更有效地训练 QA 模型，这种方法已经在 SQuAD v1 数据集上验证，并且相较于过去的监督学习方法取得更好的表现。

Jun, 2019

基于自监督测试时间学习的阅读理解

本文提出了一种无监督的阅读理解方法，通过自我监督训练模型在合成问题 - 回答对上，从而在给定上下文中执行 “测试时间学习”，同时实现了可与全监督方法竞争的准确度和显着优于当前无监督方法的性能。

Mar, 2021

三元组检索的图式推理问答

提出了一种简单而有效的方法来检索和重新排序与问题回答相关的三元组，并将它们与问题连接以提高语言模型的表现，实验结果显示，其在常识问答和开放式书本问答数据集上均表现优于现有的最佳方法。

May, 2023

用填空翻译和一致性优化实现零样本通识常识问答

本研究针对常识问题回答（Commonsense question answering）的挑战，提出了利用预训练语言模型中的 “隐含知识”，通过四种翻译方法，探索如何更好地调动语言模型中的常识知识。研究通过在零样本情况下对三个 CQA 数据集进行实验，证明了该方法对增强模型的性能十分有效，并且结合外部知识库进一步提高了模型性能。同时，文章还分析了各种填空翻译方法的不同特点和优缺点。

Jan, 2022