Jul, 2022

大型语言模型中的长度泛化探究

PDF
TL;DR该研究探讨了基于 transformer 的语言模型的长度推广能力，发现预训练大语言模型的上下文学习能力与记事本提示相结合能大大改善长度推广，并鉴别了错误的共同来源，为赋予语言模型推广到更长问题的能力提供了新的机会。
out-of-distributionreasoning taskstransformer-based language modelslength generalizationpretrained large language models
发现论文，激发创造
  • Transformer 模型可以实现长度概括，但不具备鲁棒性

    使用适当的数据格式和位置编码的组合，本研究首次展示了标准 Transformers 在能够外推到输入长度 2.5 倍的序列长度方面的成功，然而与内分布泛化不同，长度泛化仍然是脆弱的，受到随机权重初始化和训练数据顺序等因素的显著影响，导致不同随机种子之间存在较大差异。

    Feb, 2024

  • 转换器可以学习哪些算法？长度泛化研究

    大型语言模型的新兴泛化特性方面已经有了惊人的发现，但在诸多简单推理任务（如算术和奇偶性等）上仍存在问题。本研究针对算法任务的长度泛化范围，通过提出一个统一的框架，阐述了 Transformer 模型在特定任务上表现出的能力和方式。

    Oct, 2023

  • 学习推理中长度泛化的理论

    针对学习推理中的长度泛化问题，本文通过理论研究提出一种可以模拟成有向无环图（DAGs）的问题的长度泛化条件，并设计了基于该理论的问题表示方法，使用 Transformer 模型完美解决了诸如奇偶性、加法和乘法等具有挑战性的推理问题。

    Mar, 2024

  • 关于可证明长度和组合泛化性的研究

    通过针对不同架构（包括深度集合、转换器、状态空间模型和简单循环神经网络）的研究，我们首次提出了能够证明长度和组合泛化的方法，并证明了对于长度和组合泛化，需要不同程度的表示识别，如与地面真实表示的线性或排列关系。

    Feb, 2024

  • 通过任务提示改进 Transformer 的长度泛化

    使用任务提示的方法改善长度泛化问题，在经典的排序问题上验证了其有效性，并通过探测和可视化技术提出了模型学习行为的理论构建，进一步提高了模型在未知长度上的性能。

    Oct, 2023

  • 从插值到外推：算术 Transformer 的完全长度概括

    通过实验和注意力分析，我们研究了 transformer 模型在学习算术算法（如加法和乘法）方面的固有能力，并确定了几个实现最佳长度泛化的关键因素。我们展示了 transformer 模型能够借助有针对性的注意力偏置来推广到长长度，并引入了注意力偏置校准（ABC）阶段，使模型能够自动学习适当的注意力偏置，我们将其与相对位置编码中的机制联系起来。我们证明使用 ABC，transformer 模型能够在某些算术任务上达到前所未有的完美长度广义。

    Oct, 2023

  • 学习推理技能中长度概括的条件

    AI agents rely on reasoning, but large language models (LLMs) have limitations in their reasoning capabilities, particularly in length generalization. This paper presents a theoretical study of the length generalization problem in reasoning tasks formulated as Markov dynamic processes (MDPs) and/or directed acyclic graphs (DAGs), identifying conditions for solving the problem and conducting experiments to validate the theoretical findings.

    Nov, 2023

  • 语言模型需具备归纳偏见进行归纳计数

    通过对训练语言模型进行计数，我们发现传统的 RNN 在归纳计数方面的性能远远优于现代 RNN，并且 Transformers 在域外计数方面依赖于位置嵌入，这一发现呼吁学术界重新审视对形式特征的基本函数的应用范围。

    May, 2024

  • 使用 Transformer 测量神经证明生成中的系统化概括能力

    研究 Transformer 语言模型在自然语言中进行基于逻辑推理的任务，探究它们的系统泛化能力，发现其在逆向推理证明方面表现更优，并且发现没有经过证明生成训练的模型更适合处理长证明的问题。研究结果强调了 TLM 在逻辑推理中的系统泛化行为，并且对其核心推理策略的深入研究提出了启示。

    Sep, 2020

  • Transformer 长度外推：以位置编码为视角的调查

    该研究论文对基于 Transformer 的预训练语言模型和长度外推问题进行了系统性的回顾，聚焦于可外推位置编码方法，旨在帮助读者深入理解已有方法并为未来研究提供启示。

    Dec, 2023