Apr, 2021

CURIE: 一种用于推理情境的迭代查询方法

HTML
PDF
TL;DR本文提出了一种基于自然语言问题查询的方法，使用一个经过微调的语言模型(M)，通过迭代构建相关后果的图形来显式地构建结构化情境图(st-graph)。CURIE生成的st-graph在多个领域中显示出人类发现有关和有意义的新情况的结果。通过在输入中添加我们生成的情境图，CURIE生成的st-graph在情境推理终端任务(WIQA-QA)上的准确度提高了3个点。
发现论文，激发创造
  • 针对情境中段落影响的推理

    ROPES是一项具有挑战性的阅读理解基准测试，旨在针对情景中段落效果的推理。从科学教科书和维基百科中采集背景素材，要求系统在使用此背景素材的新情景中进行推理，最佳模型仅达到61.6%的F1值。

    Aug, 2019

  • WIQA：一份针对过程文本中的“What if…”推理的数据集

    WIQA是一个包含大量关于程序性文本“What if…”问题的数据集，其中包括描述过程的段落、描述一个变化如何影响另一个的众包影响图和从图中派生的大量“what if…”多项选择问题，包括对段落中提到的步骤进行干扰、需要常识知识的外部干扰以及无关紧要的干扰等三种类型。我们发现，当前的最先进模型的准确率为73.8％，远低于人类表现的96.3%。该数据集是社区的一个开放性挑战，其中一个主要的挑战是跟踪影响链。

    Sep, 2019

  • 面向情境中段落影响力的可解释性推理

    本文探讨了一种基于神经网络的逐步推理模型，旨在更细致地理解为背景段落中叙述的因果关系，并将此知识应用到新的情境中，实验结果表明了其有效性和可解释性。

    Oct, 2020

  • QA-GNN: 用语言模型和知识图谱进行问答推理

    该研究提出了一种新模型QA-GNN，通过关联系统知识图和语言模型，实现对问题与答案之间的共同推理，并取得了在常识和生物医学领域QA测试中优于现有模型的表现。

    Apr, 2021

  • 如果……”程序推理相关常识子图

    本研究旨在通过外部常识知识帮助解决学习因果推理的挑战，我们提出了一种新颖的多跳图推理模型来预测因果答案，从而在WIQA基准测试中实现了最先进的性能水平。

    Mar, 2022

  • 基于知识图谱的深度负责任语言模型推理

    介绍了Think-on-Graph（ToG），这是一种利用知识图谱增强LLMs深度和负责任推理能力的新框架，并通过对复杂的多跳问题回答任务的实验证明了ToG优于现有方法。

    Jul, 2023

  • 常识知识图谱上的逻辑查询复杂推理

    通过从现有的常识知识图谱（CSKG）中采样多跳逻辑查询，并使用手工规则和大语言模型进行言语化，我们提出了COM2（复杂常识）数据集，训练于此的语言模型在复杂推理能力方面取得了显著提升，从而在问题回答和生成常识推理的任务中表现出了增强的零样本性能，而无需昂贵的人工注释。

    Mar, 2024

  • 提升知识图谱中多跳逻辑推理的上下文感知查询表示学习

    通过全面整合FOL查询图的上下文，我们提出了一种模型不可知的方法，增强了现有的多跳逻辑推理方法，在两个数据集上的实验中，我们的方法始终提升了三个多跳推理基准模型的性能，最高可达19.5%。

    Jun, 2024

  • 将大型语言模型与基于图的推理相结合，用于对话式问答

    我们提出了一种在对话中理解问题并从不同来源（如文本、知识图谱、表格和信息框）中进行推理的说话式问答任务，我们的方法利用了图结构化表示，通过最小化交叉熵直接将图嵌入到大型语言模型中，同时利用了大型语言模型的推理和文本生成能力。我们的模型通过维护一个存储模块来追踪和更新过去的证据，从而影响图的结构，并在ConvMix基准测试中取得了实验结果，证明了图嵌入增强了大型语言模型的推理能力，而存储模块则提供了对噪声和检索错误的鲁棒性。

    Jun, 2024

  • GraphIC：一种基于图的上下文示例检索模型用于多步推理

    本研究解决的主要问题是传统文本嵌入方法在多步推理任务中的有效性不足。我们提出的GraphIC方法采用图形表示推理过程，并结合贝叶斯网络选择上下文示例，有效捕捉了深层推理结构。实验结果显示，GraphIC在多步推理任务的上下文示例选择中显著优于现有模型，提高了上下文学习的性能和互操作性。

    Oct, 2024