May, 2023

在上下文学习中进行知识库问答的选择

PDF
TL;DR该研究提出了一种基于 LLMs 的 McL-KBQA 框架，通过基于 ICL 的多选项将 LLMs 的 Few-shot 能力纳入 KBQA 方法，从而提高了 QA 任务的有效性和泛化性能。在两个 KBQA 数据集上的实验结果表明，McL-KBQA 具有竞争性的性能和强大的泛化性能。研究者期望从 LLMs 的角度探索 QA 任务的新方法，并获得规范和正确的答案和强大的泛化性。
question answeringknowledge basesllmsfew-shot learninggeneralization
发现论文，激发创造
  • FlexKBQA: 一个灵活的 LLM 驱动框架用于少样本知识库问答

    FlexKBQA 是一种利用大型语言模型解决少样本知识库问答任务的方法，通过自动化算法从知识库中生成多样的程序，利用语言模型将其转化为自然语言问题。该方法还引入了执行引导自训练的策略来缓解合成数据和真实用户问题之间的分布差异，并利用大型语言模型的推理能力来增强整个框架。在 GrailQA、WebQSP 和 KQA Pro 上的实验证明，FlexKBQA 在少样本甚至零样本情景下，只需少量注释即可达到令人印象深刻的结果，超过了所有之前的基准，并且接近于监督模型的性能，相对于完全监督模型性能达到 93%。我们认为 FlexKBQA 在大型和轻量级模型的更好集成方面代表了重要进展。

    Aug, 2023

  • 交互式 KBQA：大型语言模型的知识库问答多轮交互

    通过与知识库进行直接交互生成逻辑形式，我们引入了 Interactive-KBQA 框架来解决知识库问答领域的问题，该框架包括三种通用 API 用于知识库交互，通过步骤推理过程注释数据集，展示了我们模型的适应性和潜力，并在低资源场景中以极少的示例达到了优秀的结果。

    Feb, 2024

  • 一种基于学习后推理模型的知识库问答通用化方法

    KBLLaMA 研究知识库问答系统的学习 - 推理框架，向大型语言模型注入新的知识以提高其泛化能力，在各种问答任务中表现出最先进的性能。

    Jun, 2024

  • 基于上下文的代码风格学习方法在基于知识的问题回答中的应用

    通过在大型语言模型中使用代码风格的上下文学习方法，从而解决了知识基础问题回答中逻辑格式错误的问题，并在少样本设置下实现了 WebQSP、GrailQA 和 GraphQ 等主流数据集上的最新技术水平。

    Sep, 2023

  • 知识库问答的少样本上下文学习

    提出了 KB-BINDER，该方法利用 Codex 等大型语言模型生成逻辑形式作为问题的草案，并通过 BM25 得分匹配进行知识库组合，从而能够在统一框架下处理不同 KBQA 数据集中的问题，同时利用 few-shot in-context 学习实现高准确率，实验结果表明，此方法表现强劲，并且在 GraphQA 和 3-hop MetaQA 数据集上甚至胜过现有训练模型，可以作为未来研究的重要基线。

    May, 2023

  • 将迁移学习与上下文学习结合，利用黑盒预训练语言模型进行零样本知识库问答

    我们提出了将零样本迁移学习和黑盒大型语言模型应用于知识库问答问题的组合方法，并通过实验结果表明，这种组合方法在不同阶段均带来显著的改进，并且在有限标记数据和整个大型训练数据集的情况下都优于现有方法。

    Nov, 2023

  • ChatKBQA：一种基于生成 - 检索框架的知识库问答方法，利用已训练过的大型语言模型进行微调

    利用大型语言模型构建生成 - 检索知识库问答 (ChatKBQA) 框架，在知识检索和语义解析两个研究组件方面面临三个核心挑战，即低效的知识检索、检索错误对语义解析的不利影响以及以往 KBQA 方法的复杂性。该框架通过首先使用已经微调的大型语言模型生成逻辑形式，然后通过无监督的检索方法检索并替换实体和关系，从而更直接地改善了生成和检索。实验结果表明，ChatKBQA 在标准 KBQA 数据集 WebQSP 和 ComplexWebQuestions (CWQ) 上取得了最新的最佳性能。这项工作还为将大型语言模型与知识图谱 (KG) 相结合提供了新的范例，以实现可解释性和知识需求的问答。

    Oct, 2023

  • 基于阅读理解的跨语言知识库问答

    该研究对多语言信息处理领域中的跨语言问答问题进行了研究：提出了一种基于阅读理解范式的知识库子图到问题的转换方法，利用汽车预训练语言模型和跨语言阅读理解技术进行跨语言阅读理解，基于现有的高质量跨语言阅读理解数据集进一步优化模型，为跨语言问答领域提供了一种有效、高效的方法。

    Feb, 2023

  • 基于零样本知识生成的基于知识的视觉问答

    基于预训练语言模型的知识生成方法在知识型视觉问答方面表现优于以往零样本方法，生成的知识普遍相关且有帮助。

    Feb, 2024

  • 基于问题回答语料库和知识库的问题回答学习

    本论文提出了一种新型问题表示方式：模板，应用于十亿级别的知识库和百万级别的问答数据。通过学习用于特定目的的模板，系统 KBQA 可以有效地回答基础性问题和复杂问题，并在 QALD 基准测试中胜出其他工作。

    Mar, 2019