Dec, 2023

从优秀到卓越：利用工具辅助交错提示改进数学推理

PDF
TL;DR使用 IMP-TIP 框架结合了大型语言模型 (LLMs) 和增强工具的 LLMs 的优势，通过收集和交叉检查多个潜在解决方案，实现对复杂数学推理任务的改进。实验结果表明，IMP-TIP 在数学推理任务中具有增强的能力，相对于传统 LLMs 和增强工具的 LLMs，在准确性和推理多样性上都表现优异。
large language modelstool-augmented llmsmathematical reasoning tasksimp-tiptool-augmented interleaf prompting
发现论文，激发创造
  • MathPrompter：利用大型语言模型进行数学推理

    提出了一种名为 MathPrompter 的技术，它使用 Zero-shot chain-of-thought 提示技术生成多个代数表达式或 Python 函数，并以不同的方式解决相同的数学问题，从而提高模型在算术问题上的性能并提高置信水平。

    Mar, 2023

  • 评估和改进工具增强的计算密集型数学推理

    该研究构建了一个新的中文数据集 CARP，测试了四个有思考提示的 LLMs，发现它们容易在解决方案的早期步骤中犯错误，因此提出了一个新的基于工具接口的方法 DELI，该方法在 CARP 和其他六个数据集上的实验结果表明 DELI 大多优于竞争基线，能够进一步提高现有的 CoT 方法的性能。

    Jun, 2023

  • 推进工具增强型大型语言模型：整合推断树中错误的见解

    基于决策树的推理轨迹优化框架提高了工具辅助大型语言模型的推理性能和泛化能力，解决了基于路径的训练方法的局限性，同时透过错误推理路径的洞察力，提高了复杂工具使用推理任务的推理效率。

    Jun, 2024

  • Graph-ToolFormer：通过 ChatGPT 增强 Prompt 为 LLMs 赋予图推理能力

    本文旨在通过图形推理方法对大型语言模型进行增强，以使其能够完成复杂的图形学习任务，包括基本的图形数据推理和更高级的实际应用推理，我们提出了一个名为 Graph-ToolFormer 的框架，并在各种图形推理数据集和任务上进行了初步的实验研究。

    Apr, 2023

  • 深思熟虑：问题拓展引导提升大型语言模型的数学推理能力

    使用 Problem Elaboration Prompting（PEP）改善大型语言模型（LLMs）的数学能力，在复杂推理和问题背景理解方面取得了有希望的表现。

    Feb, 2024

  • 元认知提示提高大型语言模型的理解能力

    通过使用元认知提示，通过系统性的结构化、自我意识评估，结合大量内在的知识和新的认识，可以提高大型语言模型的理解能力。实验结果表明，元认知提示始终优于现有的提示方法，并通过提高 GPT-4 的性能水平，增强了 GPT-4 在各种自然语言理解任务中的表现。

    Aug, 2023

  • 通过多智能体辩论提高语言模型的事实性和推理能力

    该论文介绍了一种新方法，即通过多个语言模型实例的反复辩论和推理过程，以达成一个共同的最终答案，从而改善语言响应的表现，特别是在数学和策略推理方面，改善了已有模型中一些常见问题，如虚假答案和幻觉现象，并有望显著提高大型语言模型的性能和开拓语言生成和理解领域。

    May, 2023

  • 通过互动演示教授语言模型自我提升

    通过 TriPosT 训练算法，这篇论文介绍如何赋予更小的模型自我改进的能力，从而减小大型语言模型与成本效益更高、运行更快的模型之间的性能差距，并且通过与大型语言模型进行互动，收集反馈和改进，并将这一经验用于训练小模型，实验证明通过学习和纠正自己的错误对于小模型改进性能至关重要。

    Oct, 2023

  • 提示求解之前的线索引导：指导 LLMs 有效利用编码知识

    通过引入 Hint-before-Solving Prompting (HSP) 方法，将高质量提示应用于大型语言模型的解题过程，有效地提高了推理任务的准确性，并建立了 HSPMATH 数据集，提高了解题准确性。

    Feb, 2024

  • 通过提示提高大型语言模型的心理理论表现

    本研究探讨在理解人的常识推理问题中，如何通过上下文学习和人类反馈和增强学习的方法来提高 LLMs（大型语言模型）的表现，结果表明适当的提示可以增强 LLMs ToM（心理理论）推理能力，这也强调了 LLMs 认知能力的依赖于上下文。

    Apr, 2023