Sep, 2024

自我指导派生提示生成与上下文学习的结合：释放黑箱LLMs的新潜力

HTML
PDF
TL;DR本研究解决了黑箱大型语言模型（LLMs）在响应质量提升中的局限，提出了一种自我指导的上下文学习框架，通过生成可靠的派生提示来构建信息丰富的上下文环境。实验表明，该方法不仅生成更可靠的提示，还显著提升了LLMs（包括GPT-4）的响应效果。
发现论文，激发创造
  • 无梯度和演示的大型语言模型交互式任务的提示优化

    研究提出了LLM-PO，一种新方法，可以使LLMs在没有梯度访问或广泛演示的情况下解决交互式任务。该方法通过维护基于文本的计划并要求LLMs根据其采集的经验反思当前计划的优缺点，并根据LLMs的反馈来更新计划和收集更多的经验，从而解决交互式任务。在HotpotQA上的实验表明，LLM-PO的成功率比基于上下文的学习（ICL）基线更高或相当，同时需要更少的推理成本。

    May, 2023

  • 注意指令：基于提示的学习中一致性和交互的整体评估

    通过系统、全面的评估，本研究发现预训练语言模型的适应任务方式中的设计选择会造成不稳定性和不一致性的问题，并指出在大多数场景中应该避免或小心处理哪些因素。

    Oct, 2023

  • 有监督的知识提升大语言模型在上下文学习中的表现

    通过提示工程，大型语言模型（LLMs）展示了在上下文学习中的新兴能力。最近在大规模生成模型方面的进展进一步扩展了它们在实际语言应用中的使用。然而，在自然语言理解和问题回答方面，提高LLMs的泛化能力和准确性的关键挑战仍未得到充分探索。

    Dec, 2023

  • 大型语言模型是否擅长优化提示？

    通过细致研究LLM-based Automatic Prompt Optimization的机制，发现LLM优化器在自我反思时往往倾向于以自身的先验知识为偏见，难以正确识别错误的真正原因；此外，LLM优化器在语义上有效的反思时，由于目标模型行为的难以预测性，往往在单次优化步骤中难以生成适当的提示。因此我们提出了“Automatic Behavior Optimization”新范式，以更可控的方式直接优化目标模型的行为，希望本研究能启发自动提示优化的新方向。

    Feb, 2024

  • PhaseEvo:面向大型语言模型的统一上下文提示优化

    通过建立统一的上下文提示优化框架，本研究旨在实现上下文提示和示例的联合优化，并提出了一个高效的自动提示优化框架PhaseEvo，它结合了LLMs的生成能力和进化算法的全局搜索能力，通过创新的基于LLMs的变异操作提高搜索效率并加速收敛。实验证明，PhaseEvo在保持良好效率的同时大幅度优于最先进的基线方法。

    Feb, 2024

  • 大型语言模型的高效提示方法综述

    在这篇论文中，我们对高效提示的各种方法进行了全面的概述，包括使用高效计算和高效设计进行提示的方法，重点关注未来的研究方向。

    Apr, 2024

  • 反演上下文学习：通过破坏理解提示

    通过对大语言模型进行随机组成的实验，研究了任务描述、示例输入、标签、行内指令等多个因素对模型性能的影响，发现重复文本、大型模型以及任务和行内指令对模型性能提升具有积极影响。

    Apr, 2024

  • 语言模型利用交叉任务上下文学习解决数据稀缺的新任务

    该研究论文探讨了大型语言模型 (LLMs) 是否能够根据不同任务示例的上下文信号来解决新任务，并设计了一个跨任务提示设置，并表明 LLMs 在无需上下文提示的情况下能够获得显著的性能提升，同时展示了模型激活相似性与跨任务示例效果之间的强相关性。

    May, 2024

  • 关于奖励模型、参数更新和上下文提示的变换

    我们展示了三种常用的适应工具的互换性，分别为参数更新、奖励建模和上下文提示，形成了一个三角形框架，建立了六个转换方向，每个转换方向都有助于实现各种应用。我们的工作为现有研究提供了一个整体观点，并提出了潜在的研究方向。我们希望我们的工作成为未来LLM研究的有用路线图。

    Jun, 2024

  • 提示递归搜索：具有自适应增长的大型语言模型的活框架

    本研究解决了现有提示设计方法在处理复杂任务时的局限性。提出了一种新的提示递归搜索框架，利用大型语言模型生成特定问题的解决方案，优化令牌使用并降低错误概率。实验结果表明，与链式思维方法相比，该框架在BBH数据集上的准确率提高了8%，实现了22%的整体改善。

    Aug, 2024