May, 2023

CREATOR: 通过工具创建分离大型语言模型中的抽象和具体推理

PDF
TL;DRCREATOR 是一种新颖的框架，使大型语言模型创建自己的工具变得容易，该方法在数学问题求解方面的表现显著优于现有方法，并有助于知识转移和提高模型的适应性。
large language modelscreatortool creationmath problem-solvingknowledge transfer
发现论文，激发创造
  • 大型语言模型作为工具制造者

    该研究提出了一种基于大型语言模型 (LLMs) 的闭环框架 LLMs As Tool Makers (LATM)，通过该框架，LLMs 可以自己创建可重用的工具以解决问题，并验证了该方法在包括 Big-Bench 任务在内的复杂推理任务中的有效性，使用 GPT-4 作为工具制造者和 GPT-3.5 作为工具用户，LATM 的性能与使用 GPT-4 制造和使用工具的性能相当，而推理成本显著降低。

    May, 2023

  • 大型语言模型与创造性机器人工具使用

    本研究论文通过利用大型语言模型构建了一个名为 RoboTool 的系统，通过接受自然语言指令并输出可执行的机器人控制代码，实现了机器人在包含隐含物理约束和长期规划的任务中的创造性使用工具的能力。通过广泛的实验验证，RoboTool 在处理否则无法完成的任务方面表现出了熟练的水平，从而扩展了机器人系统的能力。

    Oct, 2023

  • 利用链式抽象推理进行高效工具使用

    大型语言模型需要通过链接现实世界的知识来实现与人类期望一致的准确推理。我们提出了一种新的方法，使用抽象链条进行计划，从而使语言模型能够更好地利用工具进行多步推理，并取得更高效的工具使用和更快的推理速度。

    Jan, 2024

  • 大型语言模型的自动多步推理和工具使用

    ART 框架使用冻结的 LLM 自动生成中间推理步骤作为程序，并能无缝集成生成和外部工具使用，使得在 BigBench 和 MMLU 基准测试中，通过自动 CoT 和 few-shot 提示，ART 实现了对未知任务的实质性改进。在选定的任务上，人们可以通过纠正特定的程序错误或整合新工具来改善 ART 的性能.

    Mar, 2023

  • StrategyLLM：作为问题解决的策略生成器，执行器，优化器和评估器的大型语言模型

    综合利用 LLMs 能力的 StrategyLLM 框架提出，通过制定通用问题解决策略，以及利用这些策略产生一致的解决方案来提高推理方法的泛化性和一致性。实验证明，StrategyLLM 在数学推理、常识推理、算法推理和符号推理等 4 个具有挑战性的任务上，比需要人工注释解决方案的同类基准模型 CoT-SC 表现更好。

    Nov, 2023

  • Graph-ToolFormer：通过 ChatGPT 增强 Prompt 为 LLMs 赋予图推理能力

    本文旨在通过图形推理方法对大型语言模型进行增强，以使其能够完成复杂的图形学习任务，包括基本的图形数据推理和更高级的实际应用推理，我们提出了一个名为 Graph-ToolFormer 的框架，并在各种图形推理数据集和任务上进行了初步的实验研究。

    Apr, 2023

  • 定制 LLMs：创建和检索专业工具集

    通过使用特定任务的工具来增强大型语言模型的能力，CRAFT 框架通过创建和检索工具集，为 LLMs 提供了灵活性，并在视觉语言、表格处理和数学推理任务中实现了显著的性能改进。

    Sep, 2023

  • LLM 推理器：大型语言模型逐步推理的新评估、库和分析

    该论文介绍了 AutoRace 和 LLM Reasoners，分别用于评估和实现不同的推理方法，以解决大型语言模型在生成推理链时所面临的挑战。

    Apr, 2024

  • 大型语言模型中平衡创造力和现实之间的权衡的数学抽象

    本文着重探讨了大型语言模型（LLMs）及其在生成创造性写作和问答系统等方面的应用，并提供了一种基于损失的数学抽象模型来平衡模型的创造性和真实性。

    Jun, 2023

  • Cantor: MLLM 的多模态思维链激发

    通过结合视觉环境获取和逻辑推理，本论文提出了一种名为 Cantor 的创新的多模态 CoT 框架，利用多模态大语言模型的认知能力解决复杂的视觉推理任务，该框架通过分析图像和问题实现对视觉输入的整合，利用大语言模型的高级认知功能生成更高级别的信息，提高了多模态 CoT 性能。

    Apr, 2024