May, 2024

ALPINE：揭示语言模型中基于自回归学习的规划能力

PDF
TL;DR通过自回归学习机制，本文在理论上研究了 Transformer-based 语言模型在规划能力方面的发展，揭示了其在路径规划上的潜在限制，同时通过实验证明了这些理论洞察力。
project alpineautoregressive learningtransformer-based language modelsplanning capabilitiesreachability matrix
发现论文，激发创造
  • 通过并行解码加速 Transformer 推理以进行翻译

    本文提出使用雅可比和高斯 - 塞德尔迭代方法对机器翻译的标准贪心自回归解码进行并行重构，以解决 transformers 对机器翻译的效率问题，实现了速度提高，而翻译质量保持。三种并行解码算法被提出并在不同语言和模型上进行了测试，速度提升最多可达 38％，在并行资源上实现的速度几乎达到 2 倍。同时，为了更好地理解模型的条件依赖关系和检查解码过程，提出了解码依赖图可视化器（DDGviz）

    May, 2023

  • PLANET: 自回归变压器中动态内容规划用于长篇文本生成

    本文提出了 PLANET 框架，采用自回归自注意机制，结合包含词汇的句子级语义计划来动态地进行内容规划和表面实现。引入基于连贯性的对比学习目标，以进一步提高输出的连贯性。实验结果表明，我们的方法在生成较富内容的连贯文本方面优于基线方法。

    Mar, 2022

  • 关于大语言模型的规划、搜索和记忆能力

    通过对 GPT-4 在规划子领域中的表现进行全面检查，我们鉴定了大型语言模型在解决规划问题方面的优势和限制，并提出了改进领域特定大型语言模型的思维链能力的方法。这些结果为大语言模型在规划领域的潜在应用提供了宝贵的见解，并为未来的研究克服其限制和拓展其能力铺平了道路。

    Sep, 2023

  • 潜在计划转换器：以潜在变量推理为基础的规划

    在长期回报任务中，规划变得必要。我们研究了利用离线强化学习数据重新规划的生成模型。具体来说，我们确定了缺少逐步奖励时的时间一致性作为一个关键的技术挑战。我们引入了潜在规划变压器（LPT），这是一种新颖的模型，利用潜在空间连接基于 Transformer 的轨迹生成器和最终回报。LPT 可以通过最大似然估计在轨迹 - 回报对上进行学习。在学习过程中，通过对潜在变量的后验采样，自然地收集子轨迹以形成一致的抽象，尽管有限的上下文。在测试时，从策略执行前的期望回报中推断潜在变量，实现了规划作为推理的想法。然后，它通过整个回合指导自回归策略，发挥了规划的作用。我们的实验表明，LPT 可以从次优轨迹中发现改进的决策。它在多个基准测试中取得了有竞争力的表现，包括 Gym-Mujoco、Maze2D 和 Connect Four，展示了对于细致的信用分配、轨迹拼接和环境变化的适应能力。这些结果验证了潜在变量推断可以成为逐步奖励提示的一个强有力的替代方案。

    Feb, 2024

  • Transformer 模型在上下文自回归学习中的性能表现

    基于 Transformer 模型的研究探讨其训练和预测过程中生成下一个 token 的方式，同时研究了正交矩阵和位置编码对于模型性能的影响。

    Feb, 2024

  • 自主车辆的可解释和灵活的目标条件神经规划器

    通过学习驾驶员示范，我们提出了一种可解释神经规划器，用于回归热力图，有效代表自主车辆在鸟瞰图中的多个潜在目标，以解决现实场景中存在的多个可接受计划问题，并通过使用负高斯核来加强热力图回归的监督学习，从而提高碰撞回避效果。我们在 Lyft 开放数据集上的系统评估表明，与之前的工作相比，我们的模型在多样的真实驾驶场景中实现了更安全和更灵活的驾驶性能。

    Sep, 2023

  • AutoTAMP: 基于 LLMs 的自回归任务和运动规划

    该研究提出了一种基于大型语言模型和任务运动规划的方法，以实现机器人对自然语言任务描述的理解和执行。该方法可以检测并纠正语法和语义错误，并在复杂任务领域中优于使用大型语言模型作为规划器的其他方法。

    Jun, 2023

  • 关于 Transformer 中主动学习数据集可迁移性的研究

    本文研究主题为探究主动学习中数据集可迁移性的影响因素，结果表明，使用相似的问询顺序能够获得高度可迁移的数据集，掌握掌握合适的主动学习方法比选择合适的模型更加重要。

    May, 2023

  • 变压器语言模型在算法学习上的限制

    我们分析了 Transformer 语言模型在学习离散算法方面的能力，通过引入两个需要组合多个离散子任务的新任务，我们在从头开始训练 LLaMA 模型以及 GPT-4 和 Gemini 上引导训练时，度量了学习的基本组合。我们观察到，最先进的 Transformer 语言模型的组合能力非常有限，而且在样本上的规模效果比为新的算法组合重新学习所有子任务要差。我们还提出了一个复杂性理论的定理，证明了在记忆前馈模型上的梯度下降可能在数据效率上指数级低效。

    Feb, 2024

  • 注意力多层感知器用于非自回归生成

    提出了一种具有线性时间和空间复杂度的新型多层感知机（AMLP）来解决非自回归生成模型中的二次复杂度问题，并通过在文本转语音合成和机器翻译任务中的实验证明，AMLP 与 NAR 模型的结合在效率上明显优于竞争模型。

    Oct, 2023