math problems | BriefGPT - AI 论文速递

关键词math problems

搜索结果 - 6

基于案例或规则：Transformer 模型如何进行数学计算？
尽管现代大型语言模型在各种复杂任务中表现出色，但它们仍然难以处理一些对人类来说很简单直观的数学问题，如加法。我们通过精心设计的干预实验，确认变压器在数学问题中执行基于案例的推理，无论是否使用 scratchpad。为了解决这些问题，我们提出
PDF4 months ago
CHAMP：一个用于深入分析 LLM 数学推理能力的竞赛级数据集
我们提出了 CHAMP 数据集，该数据集包含高中数学竞赛问题，注释了概念和提示，使我们能够探索额外信息对模型性能的影响，发现模型生成的解决方案通常通过错误的推理步骤最终得出正确答案，并且大多数模型在验证这些解决方案时遇到困难。
PDF6 months ago
优化大规模语言模型微调以解决数学问题
尽管大型语言模型在许多自然语言任务中取得了成功，但解决数学问题仍然是一个巨大的挑战。本研究通过使用 MATH 数据集，探索了三种微调策略，即解决方案微调、解决方案聚类重新排序和多任务顺序微调，并发现这些方法可以显著提高模型的性能。
PDF9 months ago
MathCoder：深化数学推理的 LLMs 中无缝代码集成
我们提出了一种方法，通过对开源语言模型进行微调，使其能够使用代码进行建模，并推导出数学方程，从而增强其数学推理能力。我们介绍了一种生成包含数学问题和基于代码的解决方案的新颖高质量数据集的方法，称为 MathCodeInstruct。我们还引
PDF9 months ago
提高语言模型在数学问题上性能的混合策略
通过混合策略探索，我们提出一种用强化学习解决数学问题的方法，在解决数学问题的过程中，我们通过在两个层次上进行探索来预测下一个令牌，并在 GPT-2 模型上取得了超过 2% 的性能提升。
PDFa year ago
挑战性数学问题求解的 GPT-4 实证研究
本文探索使用 GPT-4 解决更复杂的数学问题，并评估了各种使用 GPT-4 的方法，包括作者提出的新的对话式解决框架 - MathChat。针对 MATH 数据集中的困难高中竞赛题进行了评估，结果表明所提出的对话式方法具有优势。
PDFa year ago