arithmetic reasoning | BriefGPT

关键词arithmetic reasoning

搜索结果 - 11

ACL研究神经元激活作为统一视角来解释 LLM 的引发思维链的算术推理
通过研究神经元激活，我们探索了大型语言模型中算术推理能力的重要性，以及神经元激活对 CoT 提示的 components 的影响，并提出了一个基于 GPT-4 的方法来自动识别涉及算术推理的神经元。
PDF18 days ago
大型语言模型中的群组和对称原理探索
通过引入基于群组和对称性原则的框架，我们评估了大型语言模型在算术推理方面的表现，发现这些模型在保持群组特性方面存在困难，并表现出对特定输出的偏见、性能急剧下降以及对否定的敏感性。同时，我们发现将问题分解为较小的步骤可以帮助大型语言模型在进行
PDF5 months ago
AAAI从 LLMs 中提取复杂推理能力：利用负面数据提炼出来的金子
通过负面样本进行蒸馏以及在算术推理任务中证明负面数据在从 LLM 蒸馏中的作用。
PDF7 months ago
通过对抗性内上下文学习进行提示优化
我们提出了一种新的方法，Adversarial In-Context Learning (adv-ICL)，通过使用一个 LLM 作为生成器，另一个作为鉴别器，以及第三个作为提示修改器来优化背景学习中的提示。我们表明，adv-ICL 在包括
PDF7 months ago
代码提示：一种用于大型语言模型中的复杂推理的神经符号方法
本研究提出了一种叫做 code prompting 的新型神经符号提示方法，通过触发代码作为中间步骤，以实现符号和算术推理任务一直面对的语言及理解难题。经过对七项广泛使用的基准测试进行实验验证，研究者发现 Code Prompting 方法
PDFa year ago
RCOT：通过逆向思路链来检测和纠正推理中的事实不一致性
本文提出了一种新方法 RCoT，通过自动检测和纠正 LLMs 生成的解决方案中的事实不一致性，以 fine-grained feedback 指导 LLMs 修改解决方案，从而改进 LLMs 在算术推理任务中的推理能力。实验结果表明，RCo
PDFa year ago
ACL不牺牲语言熟练度的情况下学习非语言技能
本文提出了一种基于信息论干预和特定技能损失的新型非语言技能注入框架，可使 LLMs 学习严格的算术推理，相比注入非语言技能和保持语言知识的现有技术，我们的模型在使用少量数据且不产生额外合成语言训练数据的情况下表现更好。
PDFa year ago
神经理解：编译神经网络的语言模型
本文介绍了如何在语言模型中引入编译的神经网络（CoNNs），以实现语言模型的规则全面理解能力。该方法称为 “神经理解”，可提高语言模型在符合任务中的性能，在需要超越训练数据模式识别的领域中特别有用。在符号操作中，我们的方法能够提高语言模型的
PDFa year ago
MathPrompter：利用大型语言模型进行数学推理
提出了一种名为 MathPrompter 的技术，它使用 Zero-shot chain-of-thought 提示技术生成多个代数表达式或 Python 函数，并以不同的方式解决相同的数学问题，从而提高模型在算术问题上的性能并提高置信水平
PDFa year ago
大型语言模型容易受到无关语境的干扰
本文研究了大型语言模型对干扰信息的容忍度。通过提出了一个包含干扰性信息的四则运算数据集来评估最新提示技术在干扰信息存在时的性能。结果表明，干扰信息会显著降低大型语言模型的性能，但通过自一致解码和添加指令等方法可缓解这一问题。
PDFa year ago
从科学表格中学习推理进行文本生成
本研究引入了 SciGen，一个考虑推理的数据到文本生成任务的数据集。SciGen 是第一个评估生成模型在复杂输入结构下算术推理能力的数据集，并表明表格描述需要考虑表格值的推理。在 SciGen 上进行实验表明，目前数据到文本生成模型的推理
PDF3 years ago