Sep, 2023

Promptbreeder: 自指性自我增强的提示演化

PDF
TL;DR我们提出了 Promptbreeder，这是一个通用的自引自进机制，可以为给定领域进化和适应提示策略。在常用的算术和常识推理基准测试中，Promptbreeder 优于 Chain-of-Thought 和 Plan-and-Solve Prompting 等最先进的提示策略，还可以进化复杂的任务提示来解决令人困扰的仇恨言论分类问题。
chain-of-thought promptingprompt strategieslarge language modelspromptbreederself-referential self-improvement mechanism
发现论文，激发创造
  • 自我确信的激励机制：反复审视下的少样本问答

    利用大规模预训练语言模型，通过迭代增强和定制提示来提升其在复杂任务中的性能。

    Oct, 2023

  • AutoPrompt: 使用自动生成的提示从语言模型中引导知识

    利用自动化方法生成的 AutoPrompt，我们展示了预训练语言模型在自然语言推理、情感分析和关系提取方面的潜在能力，以及自动生成的提示方法是现有探究方法的一个可行的无参数替代方法。

    Oct, 2020

  • 基于语言模型的战略规划实现专家级提示优化

    PromptAgent 是一个优化方法，可以自动产生与专家级相等质量的提示，基于蒙特卡罗树搜索实现了对专家级提示的策略性规划和精确的领域洞察。

    Oct, 2023

  • 迭代式提示预训练语言模型进行思维链构建

    本研究探索了一个迭代提示框架，用于让预训练语言模型具有多步推理能力，我们提出了一种基于上下文的迭代提示器，可以动态地合成提示，以捕捉不同推理步骤之间的变化。实验证明，该方法在多步推理方面具有很好的效果。

    Mar, 2022

  • 个性化文本生成的自动提示改写

    通过自动修订提示符来进行个性化文本生成的研究。

    Sep, 2023

  • 长提示的自动工程化

    我们研究了自动的长提示工程算法，证明了贪婪算法和遗传算法在搜索效率方面的优越性，并引入了两种利用搜索历史增强搜索算法效果的新技术。我们的研究结果表明，该算法在 Big Bench Hard 的八个任务中实现了平均 9.2% 的准确度提升，突显了自动化提示设计对充分利用 LLMs 的能力的重要性。

    Nov, 2023

  • 基于 LLM 的语义提示进化：SPELL

    通过使用大型语言模型，本研究提出了一种基于黑盒演化算法的语义提示进化方法，能够迅速改进文本提示的性能。

    Oct, 2023

  • 提示工程师的提示工程

    通过构建元提示（meta-prompt）从而更有效地引导大型语言模型（LLMs）进行自动提示工程，进而优化其性能。

    Nov, 2023

  • 连接大型语言模型与进化算法产生强大的提示优化器

    通过连接大型语言模型和进化算法，本论文提出了一种用于离散提示优化的新框架 ——EvoPrompt，极大地提升了语言理解和生成任务中大型语言模型的表现，并展示了语言模型与传统算法结合的协同效应。

    Sep, 2023

  • 大型语言模型的自动提示选择

    自动选择给定输入的最佳提示，克服手动设计有效提示的挑战，通过聚类训练数据、生成候选提示、生成输入 - 提示 - 输出数据集以训练评估器，并使用评估器在测试时选择最佳提示来实现兼顾通用性和特异性的方法。在零 - shot 问答数据集上显示出竞争性性能。

    Apr, 2024