我们综合评估了一系列文本到图像生成模型在不同难度的数值推理任务上的性能，并展示即使是最先进的模型在数学技能方面也较为基础，特别是它们在生成图像中正确表达准确数量对象的能力仅限于较小的数字，并高度依赖于数字术语所出现的上下文，并且随着每个连续的数字，能力迅速恶化。我们还展示了模型对语言量化词（如 “几个” 或 “尽可能多”）的理解能力较差，对零的概念有困难，并且在部分数量和分数表示等更高级的概念方面存在困难。我们将提示、生成的图像和人工注释捆绑在一起，推出了 GeckoNum，一个用于评估数值推理的新基准。

Jun, 2024

本论文探讨在视觉领域中，使用最新的神经网络能否正确识别数量较大或较小的物品；研究结果表明，使用数值偏好的神经网络模型在数量辨别中表现最佳，但在转移实验中表现不佳。

Mar, 2023

为了将关键的认知能力赋予机器智能，本文提出一个新的数据集，即机器数理感知 (MNS)，其由采用 And-Or Graph (AOG) 语法模型自动生成的视觉算术问题组成，提出结合经典搜索算法和现代神经网络的方法，以更好地理解数字概念和关系运算。

Apr, 2020

本文考察了深度学习在学习数字及 subitizing 任务上的表现，发现基于样例的深度学习模型无法抽象数字的本质特征；作者构建了一种能够进行 subitizing 的循环神经网络，探究使用人类洞见补充纯深度学习的方法。这一研究意义重大，因为视觉数量意识代表了人类智力的最低水平。

Feb, 2018

本文提出了一种神经网络组件，可以较好地解决在自然图像中计算物体数量的问题。通过实验验证表明，该组件在 VQA v2 数据集中的数字类别上具有最先进的准确性，并在平衡配对指标上实现单模型超越集成模型。

Feb, 2018

人类对抽象结构的识别和操作能力十分出色，尤其在几何领域中显得更为明显。最近的认知科学研究表明，神经网络并没有共享这种能力，得出结论认为人类的几何能力来自人类心智表示中的离散符号结构。然而，人工智能领域的进展表明，经过标准架构的扩展模型规模和训练数据量后，神经网络开始表现出更类似人类推理的能力。在本研究中，我们重新审视认知科学对几何视觉处理的实证结果，并确定了几何视觉处理中的三个关键偏见：对复杂性、规律性和部分与关系的感知敏感性。我们测试了从文献中探索这些偏见的任务，并发现在人工智能中使用的大型预训练神经网络模型表现出更类似人类的抽象几何处理能力。

Feb, 2024

综合分类了 NLP 中与数字相关的任务和方法，分析了 18 种数字编码器和解码器的多样性代表性选择和最佳实践，提出了在自然语言处理中实现整体数字能力的愿景，并明确了设计考虑和统一评估。

Mar, 2021

改变语言模型的词汇表，而不是架构，可以更好地处理数字；在预测掩码数字和数值事实估计方面具有相似的性能，这要归功于仔细设计的标记化方案。

Oct, 2023

基于神经网络的端到端可视化学习模型可用非常少的神经元学习数字的加减法运算结果，但乘法等其他运算结果不可学习。

Jun, 2015

提出了一种新的推理感知预训练方法，使用对比学习将另一种数字表示形式纳入预训练模型，通过基于推理的数字预测任务训练来提高其数值推理能力，实验结果表明该方法在需要数值推理的任务上能够提高准确性，并且人类评估显示该方法能够提高数据集上的事实正确性。

May, 2022