Aug, 2023

使用 Wolfram Alpha 和 Code Interpreter 插件在数学和科学问题上测试 GPT-4

PDF
TL;DR该报告描述了对 GPT-4 的大规模语言模型进行的测试，使用 Wolfram Alpha 和 Code Interpreter 插件解决科学和数学领域的 105 个原创问题，表明插件显著增强了 GPT 解决这些问题的能力，然而仍然存在界面问题，在从插件获得有用答案的问题表述方面存在困难，修复这些界面问题是使 GPT 成为可靠的大学水平计算问题工具的中心挑战。
gpt-4wolfram alphacode interpreterinterface failurescollege-level calculation problems
发现论文，激发创造
  • 使用 GPT-4 代码解释器及基于代码的自验证解决复杂数学问题

    通过对 GPT-4 Code Interpreter 的代码使用频率引入不同约束，本文探讨了代码在增强 LLMs 推理能力方面的效果。基于这种见解，我们提出了一种新颖有效的提示方法，即基于代码的自验证（CSV），进一步提升了 GPT-4 Code Interpreter 的数学推理潜力。使用 GPT-4 Code Interpreter 和 CSV，我们在 MATH 数据集上实现了令人印象深刻的无需训练准确率（53.9％ → 84.3％）。

    Aug, 2023

  • MathCoder：深化数学推理的 LLMs 中无缝代码集成

    我们提出了一种方法，通过对开源语言模型进行微调，使其能够使用代码进行建模，并推导出数学方程，从而增强其数学推理能力。我们介绍了一种生成包含数学问题和基于代码的解决方案的新颖高质量数据集的方法，称为 MathCodeInstruct。我们还引入了一种定制的有监督微调和推理方法。这种方法产生了 MathCoder 模型，一组能够生成基于代码的解决方案来解决具有挑战性的数学问题的模型。令人印象深刻的是，MathCoder 模型在 MATH（45.2％）和 GSM8K（83.9％）数据集上取得了开源语言模型的最新得分，远远超过其他开源方案。值得注意的是，MathCoder 模型不仅在 GSM8K 和 MATH 上超过了 ChatGPT-3.5 和 PaLM-2，还超过了 GPT-4 在竞争级别的 MATH 数据集上。数据集和模型将在此 URL 发布。

    Oct, 2023

  • 挑战性数学问题求解的 GPT-4 实证研究

    本文探索使用 GPT-4 解决更复杂的数学问题，并评估了各种使用 GPT-4 的方法，包括作者提出的新的对话式解决框架 - MathChat。针对 MATH 数据集中的困难高中竞赛题进行了评估，结果表明所提出的对话式方法具有优势。

    Jun, 2023

  • GPT 能够在没有计算器的情况下解决数学问题

    大型语言模型可以准确执行包括多位数字乘法、小数和分数在内的算术运算，并且能够在无数据泄露情况下实现几乎 100% 的准确度，超越了 GPT-4。此外，我们通过在包含多步骤算术运算和文本描述的数据集上对 GLM-10B 进行微调，开发出的 MathGLM 在 5000 个样本的中文数学问题测试集上展现了与 GPT-4 相似的性能。

    Sep, 2023

  • 将 GPT-4 应用于未发表的正式语言的实验结果

    使用最新系统 GPT-4，完善的自然语言规范指定先前未发布的形式系统的几项任务，如说明函数和类型定义，证明简单定理和验证用户提供的证明，并显示出域知识，发明了有用的新语法和语义，以及表现出泛化和推理能力，因此答案似乎是：是。

    May, 2023

  • 大型语言模型生成程序代码的系统评估

    GPT-4 在生成编程代码方面表现优异，优于其他大型语言模型，具备在不同编程语言之间翻译和学习的强大能力，同时具备与人类程序员相当的代码生成效率，表明其在编程代码生成和软件开发中具备可靠的助手潜力。

    Mar, 2024

  • 使用带代码解释的 ChatGPT-4 解决初级大学水平的向量微积分和电磁学问题

    ChatGPT-4 with Code Interpreter showed significant improvement in solving engineering-math and electromagnetism problems compared to the performance of ChatGPT-4 without Code Interpreter, providing recommendations for instructors and students.

    Sep, 2023

  • 大型语言模型对数学的理解：源批评和推演

    GPT-4 的研究调查发现，尽管该模型可以重复、改编和润色其之前见过的数学证明，然而它并未实际理解基本数学概念，而在形式语言中证明数学定理的任务与搜索引擎如 Google 的方法相当，而预测句子中的下一个词可能是一种错误的方法，往往会导致过度推断和最终失败。

    Nov, 2023

  • GPT-4 作为研究人员和计算软件之间的接口：提高可用性和可重复性

    GPT-4 在计算材料科学中应用可以解决科学软件采用自定义输入语言的挑战以及由于描述模拟方法不足导致的研究结果复现性差的问题，通过生成正确的输入文件和详细的计算任务描述，减少研究者常规任务、加速新用户培训并提高结果可复现性。

    Oct, 2023

  • 探讨 ChatGPT 在科学与工程问题解决中的潜力和问题

    本研究通过探索 OpenAI 的 ChatGPT 在解决不同类型的物理问题方面的能力，发现 ChatGPT 在解决给定完整数据的问题上的成功率为 62.5％，而在未给定全部必要数据的实际问题上的准确率下降至 8.3％。该研究提出了关于如何利用增强学习模型的教材来提升 STEM 教育的启示，并为人工智能的优势和局限性提供了见解，对于旨在利用该技术的教育工作者以及研究人员来研究问题解决和决策制定中的人工智能与人类协作框架有所贡献。

    Oct, 2023