Aug, 2023

思维图：用大型语言模型解决复杂问题

PDF
TL;DRGraph of Thoughts (GoT) is a framework that advances prompting capabilities in large language models (LLMs) by modeling LLM thoughts as an arbitrary graph, enabling combination, distillation, and enhancement of thoughts, offering advantages over existing paradigms and allowing for extensibility with new thought transformations.
graph of thoughtsprompting capabilitieslarge language modelsllm thoughtsthought transformations
发现论文，激发创造
  • 思维之图：运用大型语言模型解决复杂和动态的商业问题

    本文介绍了 Graph-of-Thought（GoT）模型，这是一种用于工作流自动化的新模型，提高了复杂任务执行中大型语言模型（LLMs）的灵活性和效率。GoT 通过图形结构超越传统的线性和树状认知模型，实现了动态路径选择。开源引擎 GoTFlow 展示了 GoT 的实际应用，促进了在各个领域中的自动化、数据驱动决策制定。尽管存在复杂性和透明度方面的挑战，GoTFlow 在改进业务流程方面具有巨大潜力，通过持续发展能够提高效率和决策质量。

    Jan, 2024

  • 大型语言模型中的思维过程图推理：超越思维链的有效方法

    使用 T5 预训练模型实现了图形思维推理模型，提高了基于文本推理任务 GSM8K 的性能和面向多模态的推理任务 ScienceQA 的准确率，通过较少的骨干模型参数与基于 700M 参数的 Multimodal-CoT 模型获得相当的结果，探索了非线性思考的建模方法。

    May, 2023

  • DGoT：用于科学摘要生成的动态思维图

    我们提出了一种动态思维图 (DGoT) 的方法，它在减少模型推理成本的同时，不仅继承了现有 GoT 提示方法的优点，还根据数据特征动态调整图结构。实验结果表明，我们的方法在摘要生成任务中的性价比仅为其他多轮查询提示方法的 43.7% 至 56.4%。

    Mar, 2024

  • 思维之树：利用大型语言模型进行有意识的问题解决

    通过 Tree of Thoughts (ToT) 框架，可以弥补语言模型在考虑多种不同推理路径时的局限性，进而提高语言模型在需要问题解决的任务中的表现。实验表明，使用 ToT 的方法大大提高了语言模型在三个需要非平凡计划或搜索的任务的解决能力：24 点游戏、创意写作和小型填字游戏。

    May, 2023

  • 通过新框架提升大型语言模型中的逻辑推理能力：思维图

    利用 Graph of Thoughts (GoT) 和 prompting engineering 技术，我们的方法在解决多步骤逻辑推理问题方面超越了 GPT-4，分别获得了 89.7%、86% 和 56% 的准确率提升，并且相较于最先进的 Tree of Thought (ToT) 方法，我们的方法在准确率上平均提升了 23%、24% 和 15%。

    Aug, 2023

  • 思维的逻辑查询：通过知识图谱引导大型语言模型回答复杂逻辑查询

    本文提出了 'Logic-Query-of-Thoughts' (LGOT) 方法，首次将大型语言模型 (LLMs) 与基于知识图谱的逻辑查询推理相结合，通过将复杂的逻辑查询拆解为易答的子问题，并利用知识图谱推理和 LLMs 共同解答，最终获得准确的结果。实验结果显示 LGOT 在性能上得到了大幅提升，相比 ChatGPT 提高了 20%。

    Mar, 2024

  • 基于知识图谱的深度负责任语言模型推理

    介绍了 Think-on-Graph（ToG），这是一种利用知识图谱增强 LLMs 深度和负责任推理能力的新框架，并通过对复杂的多跳问题回答任务的实验证明了 ToG 优于现有方法。

    Jul, 2023

  • 大型语言模型指导下的思维树

    本文提出了 Tree-of-Thought (ToT) 框架，它通过试错的思路来改进自回归大语言模型的问题解决能力。通过增加提示、检查、记忆和控制等模块来实现 ToT 系统。为了验证该技术的有效性，我们基于 ToT 设计了解决数独难题的求解器，实验结果表明，ToT 框架能够显著提高数独难题的成功率。

    May, 2023

  • 图式推理：基于图形的增强大型语言模型

    使用 Graph-CoT 框架，通过对图进行迭代推理，将大型语言模型（LLMs）与图相结合，从而提高知识密集型任务中的性能。

    Apr, 2024

  • 大型语言模型为何能生成准确的思路连贯？

    本文研究了大型语言模型（LLMs）的能力，特别关注于推进链式思维提示的理论理解。我们探究了如何有效诱导 LLMs 生成连贯的思维链条。为实现此目标，我们引入了一个适用于自然语言生成的两级分层图模型。在这一框架下，我们建立了一个具有吸引力的几何收敛率，用于衡量 LLMs 生成的思维链条与真实语言起源的思维链条之间的相似度。我们的发现为 LLMs 能够产生正确的思维序列提供了理论上的证明（潜在地）解释了在需要推理技能的任务中性能提升的原因。

    Oct, 2023