May, 2023

PEARL: 激励大型语言模型计划和执行长文档操作

PDF
TL;DR提出了一种采用 zero-shot 或 few-shot prompting 策略的语言模型 (LLM) 的框架 PEARL, 用于处理长文档上的复杂推理问题，并在 QuALITY 数据集上得到了优异的性能表现。
language modelsreasoningdocument processingpromptingquality dataset
发现论文，激发创造
  • 更多询问，更深了解：基于大语言模型的增强学习问句在决策制定中的应用

    利用领导者 - 追随者双层框架，本文实现了一个完全集成的端到端框架，用于处理复杂的推理任务，并通过引入历史发现为生成合适的问题（提示）提供指导，进而指导行动学习。

    Oct, 2023

  • 用生成校准的召回器个性化大型语言模型写作助手

    PEARL is a retrieval-augmented LLM writing assistant that addresses the lack of personalization in LLM outputs, using a generation-calibrated retriever to select user-authored documents for prompt augmentation, resulting in improved generation quality and performance prediction.

    Nov, 2023

  • 使用大型语言模型生成机器人任务计划

    通过使用编程式的提示结构，可以促使大型语言模型在不同的环境、机器人能力和任务中进行计划生成，从而大大减少了任务规划中需要定义的领域知识。

    Sep, 2022

  • 长提示的自动工程化

    我们研究了自动的长提示工程算法，证明了贪婪算法和遗传算法在搜索效率方面的优越性，并引入了两种利用搜索历史增强搜索算法效果的新技术。我们的研究结果表明，该算法在 Big Bench Hard 的八个任务中实现了平均 9.2% 的准确度提升，突显了自动化提示设计对充分利用 LLMs 的能力的重要性。

    Nov, 2023

  • 迭代式提示预训练语言模型进行思维链构建

    本研究探索了一个迭代提示框架，用于让预训练语言模型具有多步推理能力，我们提出了一种基于上下文的迭代提示器，可以动态地合成提示，以捕捉不同推理步骤之间的变化。实验证明，该方法在多步推理方面具有很好的效果。

    Mar, 2022

  • 自我确信的激励机制：反复审视下的少样本问答

    利用大规模预训练语言模型，通过迭代增强和定制提示来提升其在复杂任务中的性能。

    Oct, 2023

  • 通过纠错重新提示的方式，利用大型语言模型进行规划

    本文提出了一种基于提示的策略，使用前置错误信息从 LLMs 中提取可执行计划，以设计智能化的实体代理，并在 VirtualHome 仿真环境中对该方法进行了评估。

    Nov, 2022

  • 大规模语言模型代理的自动提示工程规划

    在这篇论文中，我们提出了一种名为 RePrompt 的新方法，通过从与 LLM 代理的交互中获取的聊天记录，逐步优化 LLM 代理的提示，从而使 LLM 在特定领域中学会规划，我们在 PDDL 生成和旅行规划的实验中证明了我们的方法可以提高不同推理任务的性能。

    Jun, 2024

  • 利用 LLMs 深入挖掘长文档问答中的话语结构

    通过利用文档中普遍存在的话语结构，我们提出了一套技术方法，创造出文档的简洁表示形式，从而更全面地理解和分析不同部分之间的关系。我们保留了最佳零射击方法性能的 99.6％，同时仅处理了最佳方法在信息查询证据检索设置中使用的总令牌数量的 26％。我们还展示了如何将我们的方法与 “自问” 推理代理结合起来，以实现复杂的多跳问题回答中的最佳零射击性能，仅比使用研究证据时的零射击性能少约 4％。

    Nov, 2023

  • 学习降维：在大型语言模型中使用结构化数据的最佳表示

    使用 On-Policy 强化学习，我们提出了一个学习缩减的模型，旨在改进固定的大型语言模型的推理性能，在选择相关证据和处理长文本语境方面取得了良好的结果。

    Feb, 2024