May, 2023

SOCRATIC QUESTIONING 的艺术：利用递归思维和自问自答进行零样本多模态推理

PDF
TL;DR本研究提出了 Socratic Questioning 算法，该算法模拟了人类在解决复杂问题时分治的思维过程，并应用于视觉问答任务，取得了在三个公共基准数据集上都显著超过对照组的性能提升。
chain-of-thought promptingsocratic questioninglarge-scale language modelvisual question-answeringperformance improvement
发现论文，激发创造
  • 自主链式思维对于面向开放域多跳推理的大型语言模型

    在这篇文章中，我们提出了自主启发式链式思考 (SP-CoT) 自动化框架，用于大规模生成高质量的多跳推理数据集并通过上下文学习实现自主启发式推理，实验证明 SP-CoT 在大规模和小规模语言模型上的性能均显著优于前沿方法，并能在中间步骤中召回约 50% 的中间答案。

    Oct, 2023

  • 学会阐述：基于思维链的多模态推理用于科学问答

    利用多模态多选问题和对应的讲座和解释构建科学问题回答 (ScienceQA) 基准测试，证明思路链在语言模型中的实用性，并通过在 GPT-3 上实现 18.96% 的 few-shot leap 提高上界；证明与人类类似，从解释中受益，可以借少训练数据实现相同的性能

    Sep, 2022

  • 知识密集型多步问题的交错检索与思维链推理

    提出了 IRCoT 方法，在多步 QA 过程中使用检索和 CoT 交替进行，同时使用检索的结果来改善 CoT。在 HotpotQA、2WikiMultihopQA、MuSiQue 和 IIRC 四个数据集上，使用 IRCoT 方法取得了显著的检索和 QA 性能改进，即便是在小型模型 T5-Flan-large（0.7B）上也能奏效。

    Dec, 2022

  • 利用思维链激发大规模语言模型进行少样本知识库问题生成

    通过链式思考促进的 KBQG 方法在低资源情况下提供了有效的少样本问题生成方法，比现有基线方法在 KBQG 任务上取得了显著的性能提升。

    Oct, 2023

  • 大型语言模型中多跳问答的图引导推理

    通过引入图引导的 CoT 提示方法，以问题 / 理由图为基础的图引导推理方法在多步骤推理中表现出优越性能。

    Nov, 2023

  • 通过逻辑增强大型语言模型中的零射连续推理

    利用逻辑链思维 (LogiCoT) 的神经符号框架，大规模语言模型提供了更强的零编码链式思维推理能力。实验证明了逻辑增强的推理范式在算术、常识、符号、因果推断和社会问题等多个领域的语言任务中的有效性。

    Sep, 2023

  • 自我打磨：通过问题优化增强大型语言模型的推理能力

    该研究提出了一种名为 Self-Polish 的新方法，旨在通过引导模型逐步精炼给定的问题，以提高其问题解决能力，与其他提示方法正交，有效地提高了针对不同数据集的 Few-Shot 学习和 CoT 模型的表现。

    May, 2023

  • 教学数学应用题的苏格拉底子问题自动生成

    通过提出各种引导问题生成方案，基于输入条件和强化学习探索了大型语言模型在引导数学词问题求解中生成顺序问题的能力，发现在这种约束性问题的属性下，可生成高质量的问题，并提高了整体问句求解的性能。通过初步用户研究发现，提出的许多问题对于教育领域有潜在的价值。

    Nov, 2022

  • 回答知识密集型复杂问题的概率思维推理

    大型语言模型（LLMs）能够用链式思维推理回答知识密集型复杂问题，但当模型的参数中缺少所需的知识或不是最新的时，它们往往会产生错误的推理步骤。本文提出一种新方法：概率思维树推理（ProbTree）。在开放领域的情境下，我们利用外部知识检索加强链式推理，通过解决从叶节点到根节点的问题，考虑问题分解和回答的置信度，在推理过程中消除了负面检索问题，并借助层次结构对非叶节点进行全局推理，从而弥补了局部错误。实验证明，我们的方法在三个复杂问答数据集上显著优于最先进方法，证明了概率思维树推理的有效性。

    Nov, 2023

  • 思维链推理是一种策略改进算子

    通过思维链推理自主学习的大语言模型可以教会自己新技能，超越了依赖大量人工生成数据进行训练的能力。

    Sep, 2023