Jan, 2024

链式表格：为表格理解中的推理链创建演进式表格

PDF
TL;DR使用 Chain-of-Table 框架，以表格数据作为推理链的中间思考代理，引导大型语言模型通过上下文学习不断生成操作、更新表格，并持续演化形成一个展示给定表格问题推理过程的链条，从而实现更准确可靠的预测结果。
table-based reasoninglarge language modelschain-of-table frameworktabular datareasoning chain
发现论文，激发创造
  • 大型语言模型是少量样本的表格推理器

    本文旨在研究大型语言模型在表格相关任务中的能力，发现当结合 “思维链” 提示时，大型语言模型可以在只有 1 个样本的情况下达到与某些 SotA 模型相当的表现。

    Oct, 2022

  • 大型语言模型在表格推理中的调查

    使用大型语言模型 (LLMs) 改善表格推理性能是当前主流方法。本文分析了在 LLMs 时代中提升表格推理性能的主要技术以及 LLMs 相较于之前方法的优势，并提供了改进现有方法和扩展实际应用的研究方向，以激发未来表格推理研究的进一步发展。

    Feb, 2024

  • 基于混合链的表格和文本开放域问答推理

    本文提出了一种基于链式思维的推理与预训练框架（CARP），利用混合链模型显式地对问题回答中的表格和文本信息进行中间推理过程建模，进而改善跨模态推理过程的数据稀疏问题，通过综合生成假异构推理路径构建大规模推理语料库，最终在 OTT-QA 大型表格 - 文本开放领域问题回答基准测试上取得最佳性能和可解释性。

    Jan, 2022

  • 用大型语言模型重新思考表格数据理解

    通过对大型语言模型的研究，揭示了它们在解释和推理表格数据方面的能力，发现表格结构变化对模型性能的影响，提出了表格结构归一化的方法，并且比较了文本推理和符号推理，同时通过多个推理路径的聚合，取得了在 WIKITABLEQUESTIONS 任务上的最新成果。

    Dec, 2023

  • 知识链：通过从知识图谱中学习将知识推理整合到大规模语言模型中

    通过构建自然语言处理任务中的大型语言模型，研究了知识推理的细节和方法，并提出了一个全面的知识推理框架 Chain-of-Knowledge（CoK），通过基于知识图的规则挖掘生成数据集，并结合人类知识探索过程的试错机制来提高模型学习的效果。实验证明，CoK 不仅在知识推理上，还在一般推理基准中具有优异的效果。

    Jun, 2024

  • 思维链的强弱取决于最薄弱一环：推理链验证器的基准评估

    我们引入了 Reveal：推理验证评估，这是一个新的数据集，用于在开放域问题回答设置中评估复杂的链式推理的自动验证器，包括语言模型的答案中每个推理步骤的相关性、证据归因和逻辑正确性的全面标签。

    Feb, 2024

  • 思维链中枢：评估大型语言模型推理性能的持续努力

    提出了一个开源评估套件链式思维中心，用于评估大型语言模型在多步推理能力方面的性能，并针对一系列有挑战性的应用场景提供基准测试，目前的结果表明，模型规模与推理能力密切相关，需要更多开源社区的努力来构建更好的基础模型和探索 RLHF。

    May, 2023

  • TabSQLify：通过表格分解提高 LLMs 的推理能力

    TabSQLify 是一种新颖的方法，通过利用文本转 SQL 生成将表格分解为较小且相关的子表，仅包含回答问题或验证陈述所需的基本信息，然后执行推理任务。在对四个具有挑战性的数据集进行全面评估的情况下，我们的方法展现出与依赖完整表格作为输入的流行方法相当或更好的性能。此外，我们的方法可以显著减少输入上下文的长度，使其在大规模表格推理应用中更具可扩展性和高效性。

    Apr, 2024

  • OpenTab: 推进作为开放域表格推理器的大型语言模型

    提出了 OpenTab，一个开放域表格推理框架，利用大型语言模型（LLMs）通过表格检索器获取相关表格，并生成 SQL 程序来高效解析检索到的表格，从而实现了准确的响应，实验证明 OpenTab 在开放和封闭领域的设置中显著优于基线方法，达到了高达 21.5% 的更高准确性。

    Feb, 2024

  • 通过知识蒸馏进行的隐含推理链条

    使用语言模型的内部隐藏状态进行隐式推理，通过垂直在不同层的隐藏状态中进行推理来解决以前无法解决的任务，而无需进行明确的思维链条推理。

    Nov, 2023