Mar, 2023

GrapeQA：增广和修剪图形以加强问答

HTML
PDF
TL;DRGrapeQA是一种基于语言模型的Commonsense QA方法，采用知识图谱以及图神经网络进行推理，提出了Prominent Entities for Graph Augmentation和Context-Aware Node Pruning两个简单的改进方法来解决捕捉QA信息和去除无关节点的问题，并在OpenBookQA、CommonsenseQA和MedQA-USMLE上展示出比QA-GNN更出色的结果。
发现论文，激发创造
  • QA-GNN: 用语言模型和知识图谱进行问答推理

    该研究提出了一种新模型QA-GNN，通过关联系统知识图和语言模型，实现对问题与答案之间的共同推理，并取得了在常识和生物医学领域QA测试中优于现有模型的表现。

    Apr, 2021

  • JointLK：基于语言模型和知识图谱的常识问答联合推理

    本研究提出了一种新型模型JointLK，通过联合LM和GNN的推理和动态KG的修剪机制解决现有KG增强模型在常识问题回答方面的局限性。通过一种新的密集双向注意模块，JointLK 在LM和GNN之间进行联合推理，并通过多步交互相互融合和更新两种模式的表征。接着，动态修剪模块使用联合推理生成的注意权重递归地修剪不相关的KG节点。在CommonsenseQA和OpenBookQA数据集上对JointLK进行评估，展示其对现有LM和LM + KG模型的改进以及其执行可解释推理的能力。

    Dec, 2021

  • Grape: 基于知识图谱的阅读器，用于开放域问答

    针对开放领域问答模型的检索-阅读器管道方法容易出现阅读器性能较差的问题，本研究提出了一种基于知识图谱的阅读器，即Grape，并通过构建本地二分图，采用图神经网络来学习关系知识，并将图和上下文表示融合到阅读器模型的隐藏状态中，实验表明这种方法的性能可以比已有的方法提高2.2个精确匹配分数。

    Oct, 2022

  • 关系感知语言-图变换器用于问答

    提出了一种可以利用KG丰富的关系信息和LM之间有限的交互方式，联合处理自然语言和图表信息的方法，并通过CommonsenseQA和OpenBookQA等数据集的验证，在所有数据集上都取得了最先进的性能。

    Dec, 2022

  • 知识图谱通用问答平台

    本文提出了KGQAn，一个通用的QA系统，它不需要为每个目标KG进行定制，而是采用一种新颖的形式化方法将问题理解为一个文本生成问题，并通过神经序列到序列模型将问题转换为中间抽象表示。我们还开发了一个即时链接器，在查询时间使用RDF存储的公共可访问API和现有索引将抽象表示映射到特定KG的SPARQL查询，而无需任何预处理。我们在几个真实的KG上进行的实验表明，KGQAn易于部署，对于任意的KG表现良好，优于现有的QA系统。

    Mar, 2023

  • 三元组检索的图式推理问答

    提出了一种简单而有效的方法来检索和重新排序与问题回答相关的三元组，并将它们与问题连接以提高语言模型的表现，实验结果显示，其在常识问答和开放式书本问答数据集上均表现优于现有的最佳方法。

    May, 2023

  • MinPrompt: 基于图的极简提示数据增强用于少样本问题回答

    该研究提出了一个基于最小数据增强框架的开放领域问答系统，通过使用近似图算法和无监督问题生成，选择最具信息量的数据集进行微调，从而在效率上实现可比较或更好的准确性，提高了F-1分数高达27.5%。

    Oct, 2023

  • FusionMind -- 提升问题与回答的外部上下文融合

    利用预训练语言模型（LMs）和知识图谱（KGs）解答问题存在识别相关知识和进行联合推理的挑战。通过与先前发表的QAGNN方法进行比较，我们发现将相关的知识事实纳入问题上下文有助于提高问题回答性能，而将知识图谱融入语言模型中则只能带来少量增长，这表明将上下文知识事实结合起来可能对增强问题回答性能更具影响力。

    Dec, 2023

  • PipeNet：基于语义修剪的知识图谱问答

    通过引入显式的知识图谱可以改善问答系统，本研究提出了一种基于实体节点定位、剪枝和推理的流程以提高图推理的效率，并采用图注意力网络进行子图数据的推理。在CommonsenseQA和OpenBookQA上的实验结果证明了方法的有效性。

    Jan, 2024

  • 将大型语言模型与基于图的推理相结合，用于对话式问答

    我们提出了一种在对话中理解问题并从不同来源（如文本、知识图谱、表格和信息框）中进行推理的说话式问答任务，我们的方法利用了图结构化表示，通过最小化交叉熵直接将图嵌入到大型语言模型中，同时利用了大型语言模型的推理和文本生成能力。我们的模型通过维护一个存储模块来追踪和更新过去的证据，从而影响图的结构，并在ConvMix基准测试中取得了实验结果，证明了图嵌入增强了大型语言模型的推理能力，而存储模块则提供了对噪声和检索错误的鲁棒性。

    Jun, 2024