Oct, 2022

ELASTIC：具有自适应符号编译器的数值推理

PDF
TL;DR本文介绍了一种名为 ELASTIC 模型的数值推理方法，它采用了 RoBERTa 作为编码器和 Reasoning Manager、Operator Generator、Operands Generator、Memory Register 等四个模块，支持复杂推理，具有很强的领域无关性，可以扩展多种运算符并无视操作数的数量，实验表明 ELASTIC 模型在 FinQA 数据集上达到了 68.96% 的执行精度和 65.21% 的程序精度，在 MathQA 数据集上的程序精度为 83.00%，显著优于前人的最先进模型。
发现论文，激发创造
  • 反思：通过解线性方程组反向引导语言模型进行数值推理

    本文提出了一种利用锚定数字来诱发和利用预先训练的语言模型潜在的数字推理知识的新方法，通过在复杂的数字上应用简单的锚定数字隐含的推理表达式，以显式地得到相应的答案并训练语言模型的数字推理能力。实验结果表明该方法显著提高了现有语言模型的数字推理能力。

    Oct, 2022

  • 针对 FinQA 的数值推理的鲁棒优化长文本到数学模型

    本文提出了一种使用不同专业能力的模型进行融合的方法，以解决财务问题的数字推理任务，并在 FinQA 挑战赛中获得了第一名，执行准确率为 71.93％，程序准确率为 67.03％。

    Jun, 2022

  • 用阅读理解为 BERT 配备计算器：寻找操作和参数

    介绍了基于 BERT 的阅读理解模型，可以通过简单的程序执行轻量级的数值推理，并在具有挑战性的 Discrete Reasoning Over Passages 数据集上，通过添加浅层程序，实现了 33％的绝对改进。模型可以在数学词问题环境中学习预测新的操作（Roy 和 Roth，2015）。

    Aug, 2019

  • 机器阅读理解任务中的数值推理：我们已经到达了吗？

    本文研究了针对数字推理任务的自然语言处理模型表现，并发现现有的评估指标无法有效测量模型在这一任务上的进展。

    Sep, 2021

  • 可靠推理过程指导下的数值推理增强

    通过分解答案公式以确保支持答案的可靠推理过程，Encore 方法在所有五个实验数据集上平均提高了 1.8%，证明了该方法的有效性。

    Feb, 2024

  • 利用符号库进行归纳推理的神经数学推理方法增强

    通过离散型系统和抽象学习框架的组合，提出了 ABL-Sym 算法，将 Transformer 神经模型与符号数学库相结合，从而在数学推理数据集上显示出显著的准确性提高。

    Mar, 2022

  • 将数字推理技能注入语言模型

    通过在大量数据集上进行多任务训练，我们展示了数值推理可以注入到预训练的语言模型中，使性能得到显著提高。在一个简单通用的 encoder-decoder 架构上训练，我们的模型 GenBERT 在 DROP 数据集上的性能可以达到与同等规模的最先进模型相媲美，同时在数学单词问题数据集上保持高性能，这种方法为延展技能到大型预训练语言模型提供了一般的解决方案。

    Apr, 2020

  • 混合语言符号推理的自然语言嵌入程序

    提出自然语言嵌入程序作为一种统一的框架，用于解决需要符号和数值推理的任务，其中该方法促使语言模型生成包含自然语言表示结构化知识的数据结构上定义函数的完整 Python 程序，然后 Python 解释器执行生成的代码并打印输出。尽管使用了通用的提示，但我们发现此方法可以改进各种不同任务，包括数学和符号推理、文本分类、问题回答和指令跟随，并且生成的程序通常是可解释的，能够进行事后验证中间推理步骤。

    Sep, 2023

  • 探索语言模型的数值推理能力：对表格数据进行综合分析

    这篇论文提出了一个层次化的数值推理技能分类法，涵盖四个级别的十多种推理类型。通过对先进模型进行全面评估，并开发了一组多样化的数值探针，论文发现在所有数值推理类型中，FlanT5（无 / 少数据）和 GPT-3.5（少数据）相对其他模型表现出强大的整体数值推理技能。标签颠倒探针表明模型经常利用数据集的特征来预测正确的标签。

    Nov, 2023

  • 提高预训练语言模型的数值推理能力

    提出了一种新的推理感知预训练方法，使用对比学习将另一种数字表示形式纳入预训练模型，通过基于推理的数字预测任务训练来提高其数值推理能力，实验结果表明该方法在需要数值推理的任务上能够提高准确性，并且人类评估显示该方法能够提高数据集上的事实正确性。

    May, 2022