ACLMay, 2023

知识库问答的少样本上下文学习

PDF
TL;DR提出了 KB-BINDER，该方法利用 Codex 等大型语言模型生成逻辑形式作为问题的草案，并通过 BM25 得分匹配进行知识库组合，从而能够在统一框架下处理不同 KBQA 数据集中的问题，同时利用 few-shot in-context 学习实现高准确率，实验结果表明，此方法表现强劲，并且在 GraphQA 和 3-hop MetaQA 数据集上甚至胜过现有训练模型，可以作为未来研究的重要基线。
knowledge basequestion answeringfew-shot learninglogical formsbm25 score
发现论文，激发创造
  • FlexKBQA: 一个灵活的 LLM 驱动框架用于少样本知识库问答

    FlexKBQA 是一种利用大型语言模型解决少样本知识库问答任务的方法，通过自动化算法从知识库中生成多样的程序，利用语言模型将其转化为自然语言问题。该方法还引入了执行引导自训练的策略来缓解合成数据和真实用户问题之间的分布差异，并利用大型语言模型的推理能力来增强整个框架。在 GrailQA、WebQSP 和 KQA Pro 上的实验证明，FlexKBQA 在少样本甚至零样本情景下，只需少量注释即可达到令人印象深刻的结果，超过了所有之前的基准，并且接近于监督模型的性能，相对于完全监督模型性能达到 93%。我们认为 FlexKBQA 在大型和轻量级模型的更好集成方面代表了重要进展。

    Aug, 2023

  • 在上下文学习中进行知识库问答的选择

    该研究提出了一种基于 LLMs 的 McL-KBQA 框架，通过基于 ICL 的多选项将 LLMs 的 Few-shot 能力纳入 KBQA 方法，从而提高了 QA 任务的有效性和泛化性能。在两个 KBQA 数据集上的实验结果表明，McL-KBQA 具有竞争性的性能和强大的泛化性能。研究者期望从 LLMs 的角度探索 QA 任务的新方法，并获得规范和正确的答案和强大的泛化性。

    May, 2023

  • 交互式 KBQA：大型语言模型的知识库问答多轮交互

    通过与知识库进行直接交互生成逻辑形式，我们引入了 Interactive-KBQA 框架来解决知识库问答领域的问题，该框架包括三种通用 API 用于知识库交互，通过步骤推理过程注释数据集，展示了我们模型的适应性和潜力，并在低资源场景中以极少的示例达到了优秀的结果。

    Feb, 2024

  • 基於大型語言模型的無人系統知識庫問答的上下文學習

    基于知识库的问答（KBQA）旨在根据知识库来回答事实性问题。本研究针对无人系统中的知识图推理问答的 CCKS2023 竞赛，在 ChatGPT 和 GPT-3 等大型语言模型在许多问答任务中取得的最近成功的启发下，提出了基于 ChatGPT 的 Cypher 查询语言（CQL）生成框架，从给定的自然语言问题中生成最适合的 CQL 查询。我们的生成框架包括六个部分：根据给定的自然语言问题预测 CQL 的语法相关信息的辅助模型，从给定的自然语言问题中提取专有名词的专有名词匹配器，检索输入样例的相似示例的演示示例选择器，设计 ChatGPT 的输入模板的提示构造器，生成 CQL 的 ChatGPT 模型，以及从多样化的输出中获取最终答案的集成模型。凭借我们的基于 ChatGPT 的 CQL 生成框架，我们在 CCKS 2023 无人系统知识图推理问答竞赛中获得第二名，F1-score 为 0.92676。

    Nov, 2023

  • 将迁移学习与上下文学习结合，利用黑盒预训练语言模型进行零样本知识库问答

    我们提出了将零样本迁移学习和黑盒大型语言模型应用于知识库问答问题的组合方法，并通过实验结果表明，这种组合方法在不同阶段均带来显著的改进，并且在有限标记数据和整个大型训练数据集的情况下都优于现有方法。

    Nov, 2023

  • ChatKBQA：一种基于生成 - 检索框架的知识库问答方法，利用已训练过的大型语言模型进行微调

    利用大型语言模型构建生成 - 检索知识库问答 (ChatKBQA) 框架，在知识检索和语义解析两个研究组件方面面临三个核心挑战，即低效的知识检索、检索错误对语义解析的不利影响以及以往 KBQA 方法的复杂性。该框架通过首先使用已经微调的大型语言模型生成逻辑形式，然后通过无监督的检索方法检索并替换实体和关系，从而更直接地改善了生成和检索。实验结果表明，ChatKBQA 在标准 KBQA 数据集 WebQSP 和 ComplexWebQuestions (CWQ) 上取得了最新的最佳性能。这项工作还为将大型语言模型与知识图谱 (KG) 相结合提供了新的范例，以实现可解释性和知识需求的问答。

    Oct, 2023

  • 一种基于学习后推理模型的知识库问答通用化方法

    KBLLaMA 研究知识库问答系统的学习 - 推理框架，向大型语言模型注入新的知识以提高其泛化能力，在各种问答任务中表现出最先进的性能。

    Jun, 2024

  • 基于问题回答语料库和知识库的问题回答学习

    本论文提出了一种新型问题表示方式：模板，应用于十亿级别的知识库和百万级别的问答数据。通过学习用于特定目的的模板，系统 KBQA 可以有效地回答基础性问题和复杂问题，并在 QALD 基准测试中胜出其他工作。

    Mar, 2019

  • 知识图谱问题回答的动态少样本学习

    大型语言模型可在知识图谱上进行创新的问答，但未本质上为查询生成而设计。为弥合这一差距，提出了依赖微调或特定架构的解决方案，取得了良好结果但领域外分布泛化有限。在本研究中，我们介绍了一种名为动态少样本学习（DFSL）的新方法。DFSL 整合了上下文学习和语义相似度的效率，并为 KGQA 提供了普遍适用的解决方案，具有最先进的性能。我们在多个基准数据集和架构配置上进行了广泛评估。

    Jul, 2024

  • 超越 I.I.D.: 基于知识库的问答的三个泛化层次

    本文研究在知识库问答（KBQA）中，为了增强模型的泛化能力，建议模型应具有三个内置泛化层面：i.i.d、组合和零样本，并提出一种新颖的基于 BERT 的 KBQA 模型，此外构建和发布一个高质量的数据集 GrailQA，为三个泛化层面提供评估设置。实验证明，预训练的上下文嵌入（如 BERT）在 KBQA 的泛化中起着重要的作用。

    Nov, 2020