ICLRFeb, 2020

虚拟知识库上的可微推理

PDF
TL;DR我们描述了一个可微分的神经模块 DrKIT，它可以处理复杂的多跳问题，使用类似知识库的语料库，使用 TFIDF 指数和最大内积搜索技术，在每个步骤中都可以对实体的提及进行上下文表示，并介绍了用于上下文表示编码器的预训练方案。结果表明，DrKIT 在 MetaQA 数据集中的 3 跳问题上的准确性提高了 9 个百分点，在 HotpotQA 上，DrKIT 比基于 BERT 的重新排序方法提高了 10％。此外，DrKIT 非常高效。
multi-hop questionsneural modulevirtual knowledge basetfidf indicesend-to-end training
发现论文，激发创造
  • 端到端任务导向对话系统中基于约束知识库的蒸馏

    论文利用基于余弦相似度的滤波技术以及辅助损失函数构建了一个新的关于任务导向型对话系统和知识库之间的信息筛选模型，并提出了一个解决现有实体 F1 指标正确性问题的新指标 multiset entity F1。实验结果表明该模型比现有的最先进模型表现更好。

    Sep, 2021

  • 基于知识增强的迭代式指令生成和推理应用于知识库问答

    KBIGER 是一种使用知识图谱进行动态指令生成和推理的方法，用于解决多跳知识库问答的问题，并能够检测和修正中间实体的错误预测。

    Sep, 2022

  • 知识图谱问答的变分推断

    本文介绍了一种基于知识图谱的问答系统，采取了一种新型的深度学习架构和端到端变分学习算法，可以同时处理问题中的噪声和多跳推理，在最新的基准数据集中取得了最优表现。

    Sep, 2017

  • 一个为问答任务注入先验知识的课程预训练框架

    本研究提出了一种通用的知识注入课程预训练框架（KICP），用于实现全面的知识图谱学习和知识库问答任务，并在四个真实数据集上评估了该框架的表现。研究结果表明，该框架能够取得更高的性能。

    Mar, 2024

  • 使用知识库的数据编程提高变压器微调答案句子选取

    本文利用数据编程技术设计了一种有效方法，可以使用知识库获得的上下文信息来进行 transformers 在回答句子选择 QA 任务中的精细调整，模型优化效果在 WikiQA 和 TrecQA 基准测试中比 SOTA transformer 方法提高了 2.0％ p@1、1.3％ MAP、1.1％ MRR、4.4％ p@1、0.9％ MAP、2.4％ MRR，同时添加了自己的 Alexa QA 数据集。该方法能够使得模型在已有 transformer 工作流程上增加使用知识库上下文后的改进结果，而无需附加任何的延迟或实施成本

    Mar, 2022

  • 使用知识图谱嵌入和语言模型进行生物医学多跳问答

    这篇研究论文探讨了如何使用自然语言问答，相结合的语言模型和 KG 嵌入来回答生物学家们所提出的一系列自由形式的问题，其 KG 数据集来源于 Hetionet，并利用该数据集创建一个多跳生物医学问答数据集以测试多跳生物医学问答系统。

    Nov, 2022

  • UniKGQA：基于知识图谱的多跳问答统一检索与推理

    UniKGQA 是一种新的多跳知识图谱问答方法，通过统一检索和推理模型架构和参数学习，基于预训练语言模型的语义匹配模块和匹配信息传播模块进行问题与关系的语义匹配，采用共同的预训练任务和检索以及推理定向的微调策略。

    Dec, 2022

  • 大规模知识库和自然语言上的可微推理

    本文提出了一种解决人工智能中自然语言和知识库的推理问题的方法，即利用神经定理证明器和共享嵌入空间来实现，该方法被证明的可扩展性更加高效，并取得了较好的预测结果和可解释性。

    Dec, 2019

  • 利用潜在知识和对话上下文实现真实世界会话问答

    该论文提出了一种基于神经检索 - 阅读 (Retrieval-Reading) 系统和基于 TFIDF 的文本摘要技术来利用先前的谈话历史中的潜在知识的方法，以便更好地回答问题，并且实验证明该系统显著提高了回答质量。

    Dec, 2022

  • 使用大型语言模型的知识图谱上的多跳问答

    鉴于知识图谱，以多跳问题为基础评估语言模型在知识图谱中的问答能力，展示了基于信息检索和语义解析的方法能够具有竞争力的性能。

    Apr, 2024