该研究发现预训练的大型语言模型可以成为良好的零样本推理器，提出了一种零样本的CoT方法，将其用于多种复杂的推理任务并取得了显著的性能提升。

May, 2022

本文研究了基于 chain of thought (CoT) prompting 的 few-shot 学习机制，使用反事实提示进行实验，并通过多个模型证实了CoT的成功不是由pattern的存在而来，而是其中一个目的是在输出中找到正确的单词以形成一个正确的答案。文本有助于从问题中提取通识知识和含义，模式则强化任务理解和直接文本生成。

Sep, 2022

本研究探讨在理解人的常识推理问题中，如何通过上下文学习和人类反馈和增强学习的方法来提高LLMs（大型语言模型）的表现，结果表明适当的提示可以增强LLMs ToM（心理理论）推理能力，这也强调了LLMs认知能力的依赖于上下文。

Apr, 2023

本文研究了大型语言模型（LLMs）的能力，特别关注于推进链式思维提示的理论理解。我们探究了如何有效诱导LLMs生成连贯的思维链条。为实现此目标，我们引入了一个适用于自然语言生成的两级分层图模型。在这一框架下，我们建立了一个具有吸引力的几何收敛率，用于衡量LLMs生成的思维链条与真实语言起源的思维链条之间的相似度。我们的发现为LLMs能够产生正确的思维序列提供了理论上的证明（潜在地）解释了在需要推理技能的任务中性能提升的原因。

Oct, 2023

人的心智理论(TOM)能力是人类推理自己及他人心智状态的能力，在智力发展、语言理解及认知过程中起着关键作用。本研究引入了HI-TOM，较高阶的心智理论基准。实验结果表明，基于大型语言模型(LLM)的性能在较高阶心智理论任务上出现下降，展示了现有LLM的局限性。我们对LLM不同失败案例进行了详细分析，并就我们的发现对自然语言处理未来的影响进行了讨论。

Oct, 2023

大规模语言模型的推理能力可通过修改解码过程有效地引出连续推理路径，而不需要手动设计提示技术，这种具备内在推理能力的解码方法优于传统贪婪解码方式。

Feb, 2024

我们的研究通过引入符号执行器和微调技术，改进了大型语言模型在心智理论推理中的表现，并通过对比实验证明了我们的方法对于推理能力的显著提升。

Apr, 2024

通过在语言模型中引入人类类似的启发式和捷径策略并开发零样本提示策略，以优化Chain-of-Thought推理，同时引入ShortcutQA数据集用于评估和提升人工智能的推理效率。

Jun, 2024

本研究针对大型语言模型（LLM）在主观任务中链式思维提示失效的问题进行探讨。通过分析发现，链式思维提示（CoT）在复杂的主观领域，如情感和道德，表现出与上下文学习（ICL）相似的后验崩溃问题，即虽然启用了推理，但仍未能有效学习任务。该研究的主要发现表明，提升推理并未改善大型语言模型在复杂任务中的性能，反而显示出相似的固化现象。

Sep, 2024

本研究探讨了大型语言模型在主观任务中使用链式思维提示的效果，发现这种提示方式并未显著改善模型任务完成能力，反而暴露了其依赖于固定的任务先验而非真正的学习。研究表明，尽管加入推理过程，链式思维提示仍然面临与上下文学习相同的后验崩溃问题，这一发现对于理解语言模型的局限性至关重要。

Sep, 2024