基于知识驱动的数据构建在常识问答中的零样本评估

AAAINov, 2020

基于知识驱动的数据构建在常识问答中的零样本评估

Knowledge-driven Data Construction for Zero-shot Evaluation in Commonsense Question Answering

Kaixin Ma, Filip Ilievski, Jonathan Francis, Yonatan Bisk, Eric Nyberg...

TL;DR本文提出了一种基于神经符号框架的零样本问题回答方法，利用预训练模型的外部知识资源，获得了在不同任务中的一致性提升，并且在任务结构保持的同时还生成了公平和信息丰富的问题，从而提高了语言模型的学习效果。

Abstract

Recent developments in pre-trained neural language modeling have led to leaps in accuracy on commonsense question-answering benchmarks. However, there is increasing concern that models overfit to specific tasks, without learning to utilize external knowledge or perform general semantic

neural language modeling zero-shot evaluation neuro-symbolic framework question answering external knowledge resources

发现论文，激发创造

零样本常识问答的动态神经符号知识图谱构建

通过动态生成常识知识图谱，我们提出了一种零 - shot 通识问答的方法，能够推理涉及文本场景中因果关系、影响和状态等方面的隐含世界知识，并实现了生成语义知识结构的功能，从而有效地推理出正确答案。

Nov, 2019

多跳通识知识注入框架在零 - shot 通识问题回答中的应用

本文提出了一种新颖的多跳常识知识注入框架，利用多跳推理范式探索符合语言逻辑的知识图关系，并进一步提出了基于知识图的两种多跳问答生成方法。通过对合成 QA 数据集进行对比学习，我们的方法注入了多跳常识知识。在五个常识问题回答基准测试上进行的大量实验表明，本框架取得了最先进的性能。

May, 2023

基于多个知识图谱的模块化迁移学习用于零样本常识推理

本文提出一种模块化的知识聚合的零 - shot 常识推理框架，可以在多个不同的知识图谱中应用，提高了常识推理性能。

Jun, 2022

大型语言模型中常识知识的系统调查

本研究通过对大量数据进行训练的语言模型的零样本和少样本常识评估，旨在更好地理解这种模型学习常识知识的程度，结果显示预训练的语言模型在没有任务特定监督的情况下获取常识知识的能力受到了很大的限制。更大的模型或少量评估也无法达到人类常识水平。

Oct, 2021

知识图谱通识自监督的实证研究

本文旨在研究知识抽取技术对于不同规模和架构的语言模型训练的影响以及如何在各种下游 NLP 任务中进行有效的迁移学习。研究发现，在预训练中选取适当的知识可以显著提高语言模型的泛化性能，数据量越大效果越好，而平衡不同方面的抽样策略可以提高编码解码模型的性能。

May, 2022

教小型语言模型如何推广到未见过的组合问题

我们在本文中提出了一种通过多任务监督预训练和密集检索系统的组合来实现对具有挑战性的复合问题的泛化的方法，并且展示了通过添加用于训练的检索增强数据集可以显著提高模型的性能。

Aug, 2023

CAR：基于概念增强的推理器用于零样本常识问题解答

提出了一种 Zero-shot Commonsense Question Answering 任务的新方法（CAR），通过概念抽象化和知识三元组，大大增加了 CommonSense Knowledge Bases 的语义覆盖范围，使负样本的选择更有效，从而比 GPT3.5 等方法在处理零样本常识情境问题时表现更出色。

May, 2023

通向可推广的神经符号共识问题回答系统

本文针对非萃取式常识问答（QA）这一具有挑战性的 AI 任务进行了探讨，对最近的常识 QA 方法、流行的知识资源和知识融合方法进行了系统分析，并研究了多个常识数据集上的基准测试。结果表明，注重知识融合的注意力注入方式似乎是一种较好的选择，并且知识库与数据集之间的领域重叠度对于确定模型的成功程度具有至关重要的作用。

Oct, 2019

使用统一的多选视角进行零样本自然语言理解

本篇论文提出一种新的零样本学习范式，其适用于任何格式，并适用于一系列语言任务，如文本分类、常识推理、指代消解和情感分析，并将零样本学习转化为多选任务，从而避免大规模生成模型的问题。该方法不仅增加了模型的推广能力，而且显著减少了参数的数量，同时具有高效的训练和部署特点。经实验结果表明，该方法在多个基准测试中表现卓越，且仅使用了 235M 的参数，远小于拥有十亿参数的现有先进模型。

Oct, 2022

用填空翻译和一致性优化实现零样本通识常识问答

本研究针对常识问题回答（Commonsense question answering）的挑战，提出了利用预训练语言模型中的 “隐含知识”，通过四种翻译方法，探索如何更好地调动语言模型中的常识知识。研究通过在零样本情况下对三个 CQA 数据集进行实验，证明了该方法对增强模型的性能十分有效，并且结合外部知识库进一步提高了模型性能。同时，文章还分析了各种填空翻译方法的不同特点和优缺点。

Jan, 2022