arithmetic | BriefGPT - AI 论文速递

关键词arithmetic

搜索结果 - 9

CMATH：你的语言模型能通过中国小学数学考试吗？
该研究提供了一个数据集，用于评估流行的大型语言模型在小学数学的能力，并发现 GPT-4 是唯一能够在所有六个小学年级取得成功的模型，但我们对其进行了测试后发现只有 GPT-4 在算术问题和推理方面具有鲁棒性，其他模型均不具备鲁棒性。
PDFa year ago
算术变换器中的长度泛化
本文研究 transformers 在基本整数算术和泛化到比训练中出现的更长序列的两个挑战中的应对方法，发现相对位置嵌入能够实现简单任务的长度泛化，但是对于乘法而言失败，提出了训练集引导方法（priming），为训练集添加一些长序列以解决此
PDFa year ago
通过上下文学习教授算法推理
该研究通过四个关键阶段成功地向大语言模型（LLMs）教授算法推理，提出了算法提示的概念并在多种算术和定量推理任务中进行了评估，取得了显着的性能提升。
PDF2 years ago
ICMLMCTensor：一种带有多组分浮点的高精度深度学习库
本文介绍了 MCTensor，这是基于 PyTorch 的库，提供 DL 训练的通用和高精度算术，在相同的 PyTorch Tensor 方式下，我们实现了多个基本的矩阵级计算运算符和 NN 模块，我们评估了 MCTensor 算术与 Py
PDF2 years ago
利用局部注意力和网格样问题表示发现基本计算系统的 Transformer 模型
本文提出一种基于通用 Transformer 的深度学习模型，通过发现高效的算数程序，利用外部的网格状记忆进行多位数的加法计算，并且发掘了人类类似的计算策略，如位值对齐。
PDF2 years ago
Warded Datalog+- 中算术的复杂性
本文定义了一种新的语言，将 Warded Datalog+- 扩展到算术，证明了其 P 完备性，并为一种最近引入的整数算术 Datalog 片段提供了描述性复杂度结果，为高度表达 Datalog+- 语言奠定了理论基础，这些语言结合了先进递
PDF2 years ago
ACL数量标注器：一种隐变量序列标记方法用于解决加减法文字问题
该论文介绍了一种新方法 Quantity Tagger，用于解决算术问题，通过对数量打标签以自动发现隐藏的数学关系，进而生成方程以寻找解，并在两个数据集上相比之前的方法，分别取得了 5 和 8 点的准确率改进。
PDF5 years ago
最小能量量化神经网络
本研究针对量化神经网络（QNNs）的最小能量自动优化进行了探索和分析，发现在相同准确性的情况下，使用更少的位数的 QNNs 需要更深和更宽的网络架构，但需要较简单的算术和较少的权重位数。经过模拟推导，二进制网络或 int4 实施可以实现最小
PDF7 years ago
ICLR神经程序员：利用梯度下降诱导潜在程序
本研究提出了一种新颖的神经程序模型（Neural Programmer），该模型扩展了具有少量基本算术和逻辑运算的不可区分神经网络，此模型可以在多个步骤中调用这些扩展操作，因此产生的组成程序比内置操作更复杂。该模型采用相对较弱的监督信号进行
PDF9 years ago