Oct, 2024

MathCoder2：通过继续预训练改进数学推理的模型翻译数学代码

HTML
PDF
TL;DR本研究针对当前数学推理预训练数据集中缺乏直接针对数学推理的代码数据问题，提出了一种新颖的方法，通过高质量数据集结合数学相关网页数据、使用数学包的代码和数学教材等生成数学代码及其推理步骤。研究发现，使用生成的数据训练模型显著提升了其数学推理能力，形成了 MathCoder2 模型系列。
发现论文，激发创造
  • 评估和改进工具增强的计算密集型数学推理

    该研究构建了一个新的中文数据集CARP，测试了四个有思考提示的LLMs，发现它们容易在解决方案的早期步骤中犯错误，因此提出了一个新的基于工具接口的方法DELI，该方法在CARP和其他六个数据集上的实验结果表明DELI大多优于竞争基线，能够进一步提高现有的CoT方法的性能。

    Jun, 2023

  • 大型语言模型中的符号数学问题推理

    该论文研究了大型语言模型在数学问题推理方面的能力，特别关注符号推理在数值问题中的准确性，并通过自提示的方法提高了符号准确性，为模型提供了简洁可验证的推理能力。

    Aug, 2023

  • MathCoder：深化数学推理的 LLMs 中无缝代码集成

    我们提出了一种方法，通过对开源语言模型进行微调，使其能够使用代码进行建模，并推导出数学方程，从而增强其数学推理能力。我们介绍了一种生成包含数学问题和基于代码的解决方案的新颖高质量数据集的方法，称为MathCodeInstruct。我们还引入了一种定制的有监督微调和推理方法。这种方法产生了MathCoder模型，一组能够生成基于代码的解决方案来解决具有挑战性的数学问题的模型。令人印象深刻的是，MathCoder模型在MATH（45.2％）和GSM8K（83.9％）数据集上取得了开源语言模型的最新得分，远远超过其他开源方案。值得注意的是，MathCoder模型不仅在GSM8K和MATH上超过了ChatGPT-3.5和PaLM-2，还超过了GPT-4在竞争级别的MATH数据集上。数据集和模型将在此URL发布。

    Oct, 2023

  • MARIO：用代码解释器输出进行数学推理的再现性管道

    大型语言模型在自然语言理解任务中取得了显著的进展，但要实现真正的人工智能通用智能还存在差距，特别是在数学推理能力方面存在不足。本文通过丰富数据环境和引入一种新的数学数据集，该数据集具有使用Python代码解释器的能力，解决了这一挑战。此外，我们提出了一种旨在精调数学专用语言模型的可行、易复制的协议，在GSM8K和MATH数据集上显著提升了7B参数LLM性能。我们致力于推进LLMs中的数学推理领域，并且我们已经公开了模型检查点并将数据集公开可用，希望这将促进社区内的进一步研究和发展。

    Jan, 2024

  • MuMath-Code：结合多角度数据增强的数学推理工具使用大型语言模型

    我们提出了一种结合外部工具和数据增强的方法，并采用两阶段的训练策略，以实现数学推理能力的增强。经过大量实验证明，我们的方法在数学推理任务上取得了新的最佳性能。

    May, 2024

  • JiuZhang3.0：通过训练小型数据合成模型高效提升数学推理能力

    基于GPT-4的数据合成能力，我们提出了一种通过训练小型语言模型来合成数学问题，以高效生成足够高质量的预训练数据的有效方法，并在数学推理数据集上展现了最先进的性能。

    May, 2024

  • MathCAMPS: 从人类课程中细化合成数学问题

    我们提出了MathCAMPS方法，用于合成高质量的数学问题，并通过LLMs将其转化为单词问题，以进一步探索数学问题解决和对话中的各种技能和能力。

    Jul, 2024

  • 语言模型的物理学：第二部分2.2，如何从小学数学问题的错误中学习

    本研究解决了语言模型在推理任务中偶尔出现的错误问题。通过将“错误修正”数据直接引入预训练阶段，本文展示了该方法相比使用无误数据的预训练，能够显著提高语言模型的推理准确性，具有广泛的潜在影响。研究发现，此技术可实现单次自回归而无需多轮提示，从而简化推理过程。

    Aug, 2024

  • OpenMathInstruct-2：利用大规模开源指令数据加速数学AI

    本研究解决了大语言模型在数学推理方面缺乏开源训练数据的问题。通过对数据合成的精心消融实验，提出了生成高质量数学推理微调数据集OpenMathInstruct-2，显著增大数据集规模并提升模型性能，取得了15.9%的准确性提升。该工作提供了重要的数据和模型资源，以促进后续开源研究。

    Oct, 2024

  • 神经符号数据生成用于数学推理

    本研究旨在解决大型语言模型在数学推理中表现不足的问题，通过开发一种自动化方法生成高质量的监督数学数据集。该方法结合了大语言模型的直观非正式化优势和数学求解器的精确符号推理能力，生成的数据在实证实验中表现出色，使得LLaMA-2和Mistral在重新对齐后优于现有的同类模型。

    Dec, 2024