通过少量训练示例提升互联网语言模型用于开放领域问答

Mar, 2022

通过少量训练示例提升互联网语言模型用于开放领域问答

Internet-augmented language models through few-shot prompting for open-domain question answering

Angeliki Lazaridou, Elena Gribovskaya, Wojciech Stokowiec, Nikolai Grigorev

TL;DR该研究旨在通过使用大规模语言模型（LSLM）独特的少样本能力，借助于Google搜索返回的信息对语言模型进行少量提示，从而克服其与现实事实和最新信息相关性的挑战，从而使得模型在开放领域问题回答方面的性能优于相同或更大规模的封闭书模型，同时，增加推理时间的计算能力可以提高模型的性能。

Abstract

In this work, we aim to capitalize on the unique few-shot capabilities offered by large-scale language models to overcome some of their challenges with respect to grounding to factual and up-to-date information. Motivated by semi-parametric language models, which ground their decisions

发现论文，激发创造

语言模型是少样本学习器

在大规模预训练语言模型上进行fine-tuning可以显著提高模型在 NLP 任务中的任务值线表现，同时还证明了 scaling up 语言模型可以大大改善任务独立的few-shot learning表现，并探讨了GPT-3模型优势和局限性。

May, 2020

FewshotQA：一种用预训练文本到文本模型进行少样本学习的问答任务简单框架

本研究提出一种简单的微调框架，利用预先训练的文本模型与其预训练框架直接对齐，将问题、掩码代表答案范围和上下文连接为输入，使用相同的目标进行微调，通过实验研究表明该模型在各种 few-shot 配置下均取得了显著的增益。

Sep, 2021

问我任何事：一种激发语言模型的简单策略

使用ASK ME ANYTHING（AMA）方法，通过开发多种不同的有效提示信息并进行权衡，采用弱监督程序结合这些提示信息来创造性地提高了大型语言模型的性能。该方法可以使开源GPT-J-6B模型在15个流行基准测试中优于few-shot GPT3-175B模型。

Oct, 2022

在大语言模型时代评估开放领域问答

通过人工评估，我们发现使用InstructGPT在NQ-open取得了新的最优结果，且所有模型的真实性能均被显著低估，同时超过50％的词汇匹配失败归因于意义相当的答案，正则匹配排名与人类判断一致

May, 2023

使用少量数据合成实现高效的开放领域多跳问答

本文提出了一种基于借助少于10个人工标注的问题答案对进行改进较小的语言模型的多跳问答数据合成框架，经过句子等数据集测试实验，证明此框架可以显著提高运行效率并具有较好的准确性。

May, 2023

知识增强语言模型为零-shot知识图谱问答做准备

提出了一种通过直接在LLM的输入中添加知识以增强其内部存储的知识的方法，称为KAPING，通过在知识图上检索相关事实来改善零-shot闭书问答任务性能，经验证跨多个大小不同的LLM，基于事实的知识增强方法相对于相关零-shot基线的平均表现提高达48%。

Jun, 2023

利用理由生成和密集检索使用较小的语言模型回答未见过的问题

在提供足够解释性上下文的情况下，较小的语言模型在挑战性的问答任务中表现出强大的推理能力，而问题在训练中是未见过的。我们评估了两种进一步改进这一设置的方法，具体为使用理由排名模型对生成的合理和真实合理性进行评分并使用得分来从知识源中生成组合上下文，以及通过训练较小的推理模型来利用长文本序列中的相关信息。普遍发现，两种方法都有效，但RATD方法更容易应用并在我们关注的未见设置中产生最佳结果。

Aug, 2023

自我确信的激励机制：反复审视下的少样本问答

利用大规模预训练语言模型，通过迭代增强和定制提示来提升其在复杂任务中的性能。

Oct, 2023

基于提示的少样本问答合成数据生成

使用大型语言模型在少样本学习Set中提高问题回答的性能。

May, 2024

在低资源提取式问答中的语言模型泛化探索

本研究探讨了大型语言模型（LLMs）在特定领域（如医学和法律）的零-shot提取式问答能力，旨在解决语言模型在封闭领域的泛化能力不足的问题。通过一系列实验，我们发现LLMs在处理封闭领域的特定需求时表现不佳，尤其是在长答案检索和领域特定词义的区分上，揭示了现有LLMs在应对闭域数据集时的挑战，并为其改进指明了方向。

Sep, 2024