EMNLPDec, 2023

思想交流：通过模型协作提升大型语言模型的能力

PDF
TL;DR通过链式推理技术，大型语言模型（LLMs）在复杂推理任务中取得了显著进展。然而，它们的推理常常受到内在理解的局限，缺乏外部洞察力。为了解决这个问题，我们提出了一种名为 “交换思路（EoT）” 的新框架，它在问题解决过程中实现了跨模型通信。EoT 从网络拓扑中汲取灵感，整合了四种独特的通信范式：记忆、报告、中继和辩论。本文深入探讨了每种范式所涉及的通信动态和通信量。为了平衡不正确推理链的风险，我们在这些通信中实现了一个健壮的置信度评估机制。我们对各种复杂推理任务进行的实验表明，EoT 明显超过了已有的基线方法，凸显了外部洞察力在增强 LLM 性能方面的价值。此外，我们还展示了 EoT 以一种具有成本效益的方式实现这些卓越结果，标志着高效而协同的人工智能问题解决的有望发展。
large language modelschain-of-thoughtexchange-of-thoughtcommunication dynamicscomplex reasoning tasks
发现论文，激发创造
  • 通过思维树增强跨语言多步推理

    本研究通过一种自洽的跨语言提示机制，提出了一种跨语言多步推理方法，可以在不同语言中实现多步推理路径，从而达到解决复杂推理任务的目的，并在实验评估中表现出比现有提示方法更优的性能。

    Nov, 2023

  • 语言模型中的多模态思维链推理

    该研究提出了一种将语言与视觉信息相结合的理由生成和答案推断的多模态 - CoT 框架，使得答案推断可以更好地利用基于多模态信息的生成的理由，并取得了比先前最先进的 LLM（GPT-3.5）高 16 个百分点（75.17％-> 91.68％准确度）的性能，在 ScienceQA 基准测试中甚至超过了人类的表现。

    Feb, 2023

  • 大型语言模型中的思维过程图推理：超越思维链的有效方法

    使用 T5 预训练模型实现了图形思维推理模型，提高了基于文本推理任务 GSM8K 的性能和面向多模态的推理任务 ScienceQA 的准确率，通过较少的骨干模型参数与基于 700M 参数的 Multimodal-CoT 模型获得相当的结果，探索了非线性思考的建模方法。

    May, 2023

  • 思维之阶梯：利用知识提升立场检测

    通过引入 Ladder-of-Thought (LoT) 来改进 ChatGPT 和 CoT 模型，在提高中间推理过程和使用外部知识的基础上，在立场检测任务中实现了 16% 的改进。

    Aug, 2023

  • 大型语言模型的检索增强多模态思维链推理

    使用检索机制动态自动选择基于跨模态相似性的示例，以提升多模态推理中大型语言模型的性能。对各类示例进行分组并分别从不同组中检索示例，以增加示例的多样性。通过一系列实验，我们证明了我们的方法在多模态推理任务中取得了显著的性能改进。

    Dec, 2023

  • ChainLM: 通过改进思维连贯性促进大型语言模型的能力

    Chain-of-Thought 提示可以增强大型语言模型（LLMs）的推理能力，现有的 CoT 综合方法针对简单推理任务，导致 CoT 提示的质量低且不一致。为了应对这一挑战，我们进行了 CoT 提示的实证研究并引入了 CoTGenius，一个用于自动生成优质 CoT 提示的新框架。我们进一步采用 CoTGenius 创建了一个广泛的 CoT 数据集，并在该数据集上对 Llama 2-Chat 7B 和 13B 模型进行了微调，得到了 ChainLM 模型。为了解决推理步骤中的累积误差问题，我们提出了一种步骤级辩论方法，其中多个辩论者讨论每个推理步骤，得出正确答案。大量实验证明，与现有模型相比，我们的 ChainLM 模型在解决一系列复杂推理问题方面表现出更高的熟练度。此外，我们对 CoTGenius 中的数据类别对模型性能的影响进行了深入分析。我们在此 https URL 上发布了我们的数据集和代码。

    Mar, 2024

  • ThoughtSource：大型语言模型推理数据的中心枢纽

    ThoughtSource 是一个 meta-dataset 和软件库，用于处理语言模型在复杂推理方面的局限性，旨在提高未来人工智能系统的质量，通过促进 CoT 的定性理解，实现经验评估并提供培训数据。

    Jan, 2023

  • 走向忠实的思维链条：大型语言模型正在架设推理桥梁

    大型语言模型（LLMs）存在严重的不忠实的思维链 (CoT) 问题。本文首先从 CoT 步骤的粒度研究 CoT 忠实性问题，确定了集中式推理和分布式推理两种推理范式，并发现它们与忠实性的关系。随后，我们对环境、CoT 和答案之间的因果关系进行了联合分析。结果证明，当 LLM 预测答案时，它可以从上下文中回忆起 CoT 中缺失的正确信息，导致不忠实的问题。最后，我们提出了推理桥接方法来缓解这个问题，其中我们使用归因方法来作为 CoT 生成的提示并根据其语义一致性和归因分数过滤噪声 CoTs。大量实验证明我们的方法有效地减轻了不忠实的 CoT 问题。

    May, 2024

  • 思维算法：增强大型语言模型中的想法探索

    我们提出了《Algorithm of Thoughts》，这是一种新的通过算法推动大型语言模型的算法推理路径的策略，以在上下文学习中扩展其思路探索，并超越了早期单查询方法和最近的多查询策略。

    Aug, 2023

  • 通过逻辑增强大型语言模型中的零射连续推理

    利用逻辑链思维 (LogiCoT) 的神经符号框架，大规模语言模型提供了更强的零编码链式思维推理能力。实验证明了逻辑增强的推理范式在算术、常识、符号、因果推断和社会问题等多个领域的语言任务中的有效性。

    Sep, 2023