提出了一个名为 NumNet 的数值 MRC 模型，它利用带数值意识的图神经网络，考虑问题和段落中数字上的比较信息，从而执行数值推理，理解人类阅读理解中的关键技能。在 DROP 数据集上，我们的系统取得了 EM 得分 64.56％，优于所有现有的机器阅读理解模型，这是因为我们考虑了数字之间的数值关系。

Oct, 2019

介绍了一个多方面的基准测试 NUMBERGAME 来评估八种不同形式的数值推理任务的模型绩效，并需具有探测数据中的问题格式，查找中间常见格式，加入常识知识和解决不同格式数据不平衡的能力。同时，构建了多个基线模型，包括一个基于作弊纸的知识狩猎模型。但所有基线模型都表现较差，说明了该基准测试的难度。

May, 2020

这篇论文提出了一个层次化的数值推理技能分类法，涵盖四个级别的十多种推理类型。通过对先进模型进行全面评估，并开发了一组多样化的数值探针，论文发现在所有数值推理类型中，FlanT5（无 / 少数据）和 GPT-3.5（少数据）相对其他模型表现出强大的整体数值推理技能。标签颠倒探针表明模型经常利用数据集的特征来预测正确的标签。

Nov, 2023

提出了一种异构图表示，驱动多步骤的基于问题的图注意力网络，用于完成机器阅读理解中的数字推理任务，具有自然语言理解和算术计算的双重要求。

Sep, 2020

介绍了基于 BERT 的阅读理解模型，可以通过简单的程序执行轻量级的数值推理，并在具有挑战性的 Discrete Reasoning Over Passages 数据集上，通过添加浅层程序，实现了 33％的绝对改进。模型可以在数学词问题环境中学习预测新的操作（Roy 和 Roth，2015）。

Aug, 2019

提出了一种新的推理感知预训练方法，使用对比学习将另一种数字表示形式纳入预训练模型，通过基于推理的数字预测任务训练来提高其数值推理能力，实验结果表明该方法在需要数值推理的任务上能够提高准确性，并且人类评估显示该方法能够提高数据集上的事实正确性。

May, 2022

通过在大量数据集上进行多任务训练，我们展示了数值推理可以注入到预训练的语言模型中，使性能得到显著提高。在一个简单通用的 encoder-decoder 架构上训练，我们的模型 GenBERT 在 DROP 数据集上的性能可以达到与同等规模的最先进模型相媲美，同时在数学单词问题数据集上保持高性能，这种方法为延展技能到大型预训练语言模型提供了一般的解决方案。

Apr, 2020

我们引入了一个新的英语阅读理解基准测试 DROP，它需要对段落内容进行离散推理。最佳系统仅在我们的广义准确性指标上实现 32.7％F1，而专家人类表现为 96.0％。

Mar, 2019

我们综合评估了一系列文本到图像生成模型在不同难度的数值推理任务上的性能，并展示即使是最先进的模型在数学技能方面也较为基础，特别是它们在生成图像中正确表达准确数量对象的能力仅限于较小的数字，并高度依赖于数字术语所出现的上下文，并且随着每个连续的数字，能力迅速恶化。我们还展示了模型对语言量化词（如 “几个” 或 “尽可能多”）的理解能力较差，对零的概念有困难，并且在部分数量和分数表示等更高级的概念方面存在困难。我们将提示、生成的图像和人工注释捆绑在一起，推出了 GeckoNum，一个用于评估数值推理的新基准。

Jun, 2024

本文提出了一种基于单跨提取的阅读理解模型的推理模板方法，针对复杂问题分解成若干简单子问题进行处理，实现了对减法算术问题的回答并具有竞争力，同时可解释、需要少量监督。

Apr, 2021