本文提出了一种基于程序传递的方法来帮助没有程序注释的低资源知识库中的程序感应，对于这一方法，我们设计了一个新的两阶段解析框架，具有高效的本体采导向修剪策略，实验表明，该方法在复杂网络问题和 WebQuestionSP 上优于 SOTA 方法，展示了程序传递和我们框架的有效性。

Oct, 2021

使用大型语言模型构建知识库的 LLM2KB 系统有不同于基础模型的参数紧凑的注入模型，通过 LoRA 技术调整指令以便使用 Wikipedia 页面上下文实体，并在 LM-KBC 挑战中取得了 0.6185 的平均 F1 得分。

Aug, 2023

本研究提出了一种基于 encoder-decoder transformer 的知识注入预训练语言模型 K-PLUG，利用五种知识感知的自我监督预训练目标，包括电子商务领域特定知识库、产品实体的方面、产品实体的类别和产品实体的独特卖点，有效地为语言理解和生成任务学习了各种领域特定知识，并在包括产品知识库完成、摘要产品总结和多次对话等领域特定 NLP 任务中达到了新的最佳性能。

Apr, 2021

本研究提出了一种通用的知识注入课程预训练框架（KICP），用于实现全面的知识图谱学习和知识库问答任务，并在四个真实数据集上评估了该框架的表现。研究结果表明，该框架能够取得更高的性能。

Mar, 2024

通过与知识库进行直接交互生成逻辑形式，我们引入了 Interactive-KBQA 框架来解决知识库问答领域的问题，该框架包括三种通用 API 用于知识库交互，通过步骤推理过程注释数据集，展示了我们模型的适应性和潜力，并在低资源场景中以极少的示例达到了优秀的结果。

Feb, 2024

本研究提出了一种新的知识注入方法 -- 插拔式知识注入，并探究了一种新的注入方法 ——map-tuning，并通过三种不同的 NLP 任务验证了 map-tuning 方法的有效性，再次表明了插拔式知识注入的优越性。

May, 2023

本文利用数据编程技术设计了一种有效方法，可以使用知识库获得的上下文信息来进行 transformers 在回答句子选择 QA 任务中的精细调整，模型优化效果在 WikiQA 和 TrecQA 基准测试中比 SOTA transformer 方法提高了 2.0％ p@1、1.3％ MAP、1.1％ MRR、4.4％ p@1、0.9％ MAP、2.4％ MRR，同时添加了自己的 Alexa QA 数据集。该方法能够使得模型在已有 transformer 工作流程上增加使用知识库上下文后的改进结果，而无需附加任何的延迟或实施成本

Mar, 2022

FlexKBQA 是一种利用大型语言模型解决少样本知识库问答任务的方法，通过自动化算法从知识库中生成多样的程序，利用语言模型将其转化为自然语言问题。该方法还引入了执行引导自训练的策略来缓解合成数据和真实用户问题之间的分布差异，并利用大型语言模型的推理能力来增强整个框架。在 GrailQA、WebQSP 和 KQA Pro 上的实验证明，FlexKBQA 在少样本甚至零样本情景下，只需少量注释即可达到令人印象深刻的结果，超过了所有之前的基准，并且接近于监督模型的性能，相对于完全监督模型性能达到 93%。我们认为 FlexKBQA 在大型和轻量级模型的更好集成方面代表了重要进展。

Aug, 2023

本研究中，我们使用轻量级 adapters 来注入特定领域的知识以在 TOD 任务上进行微调，通过 KPRS 探测方法证明 adapters 对于对话生成任务有着优秀的表现。

Dec, 2022

本论文提出了 Parametric Knowledge Guiding（PKG）框架，使 LLMs 具有在运行时访问相关知识的能力，从而在适应长尾或特定领域任务方面提高性能，并同时考虑了透明度和数据隐私的问题。

May, 2023