Feb, 2024

PhaseEvo: 面向大型语言模型的统一上下文提示优化

PDF
TL;DR通过建立统一的上下文提示优化框架，本研究旨在实现上下文提示和示例的联合优化，并提出了一个高效的自动提示优化框架 PhaseEvo，它结合了 LLMs 的生成能力和进化算法的全局搜索能力，通过创新的基于 LLMs 的变异操作提高搜索效率并加速收敛。实验证明，PhaseEvo 在保持良好效率的同时大幅度优于最先进的基线方法。
large language modelsprompt optimizationin-context learningphaseevoefficiency
发现论文，激发创造
  • 连接大型语言模型与进化算法产生强大的提示优化器

    通过连接大型语言模型和进化算法，本论文提出了一种用于离散提示优化的新框架 ——EvoPrompt，极大地提升了语言理解和生成任务中大型语言模型的表现，并展示了语言模型与传统算法结合的协同效应。

    Sep, 2023

  • 双相加速提示优化

    通过采用良好设计的元指令，我们提出了一个双重阶段的方法来加速提示优化过程，以应对低收敛速度的挑战，并在句级别上迭代优化提示，利用之前的调优经验扩展提示候选并接受有效的候选。对八个数据集进行的大量实验证明了我们提出的方法的有效性，在少于五次优化步骤的情况下与基准模型相比实现了一致的准确率提升。

    Jun, 2024

  • 大型语言模型平衡情感的多目标进化优化

    我们提出了一种特定于提示优化的进化多目标方法（EMO-Prompts），以情感分析为案例研究，结果表明 EMO-Prompts 可以有效生成能够引导大型语言模型同时表达两种相互冲突情感的提示。

    Jan, 2024

  • EvoPrompting: 面向代码级神经架构搜索的语言模型

    使用自然语言模型作为演化神经架构搜索算法的自适应变异和交叉操作，构建 EvoPrompting 方法，可有效设计准确高效的神经网络架构，用于图神经网络搜索等领域。

    Feb, 2023

  • 指令融合：通过混合方法推进提示演进

    本文研究现有的代码生成方法的性能限制，并引入了一种新的方法 Instruction Fusion（IF），该方法通过混合两个不同的提示来增强代码 LLM 的训练提示的演化，实验结果显示该方法显著改善了代码 LLM 在五个代码生成基准测试中的性能。

    Dec, 2023

  • 大型语言模型的自动提示选择

    自动选择给定输入的最佳提示，克服手动设计有效提示的挑战，通过聚类训练数据、生成候选提示、生成输入 - 提示 - 输出数据集以训练评估器，并使用评估器在测试时选择最佳提示来实现兼顾通用性和特异性的方法。在零 - shot 问答数据集上显示出竞争性性能。

    Apr, 2024

  • PromptWizard: 任务感知的代理驱动提示优化框架

    利用大型语言模型，PromptWizard 框架通过迭代合成和优化面向特定任务的提示信息，包括了指令和上下文示例的优化，提高了模型的性能。该框架在效率、数据量和小型语言模型上的适应性以及优于现有提示策略的实证评估中展现出优越性，呈现出良好的可行性和可扩展性。

    May, 2024

  • 基于 LLM 的语义提示进化：SPELL

    通过使用大型语言模型，本研究提出了一种基于黑盒演化算法的语义提示进化方法，能够迅速改进文本提示的性能。

    Oct, 2023

  • 大型语言模型作为进化策略

    大型语言模型（LLMs）具备黑箱优化任务的潜力，可以通过 least-to-most 排序的提示策略提供演化优化算法，称为 EvoLLM，从而在合成 BBOB 函数和小规模神经进化任务上稳定优于传统算法。并通过对 LLM 的模型规模、提示策略和上下文构建的比较研究表明，通过对先前收集的教师优化轨迹进行指令微调，能够灵活地提高 EvoLLM 的性能。

    Feb, 2024

  • 批量指导梯度用于提示演化：增强文本到图像综合的系统性提示优化

    通过多代理框架和迭代过程，基于高质量的初始查询和动态指令优化的图文生成模型，提供了改进用户输入提示设计的机制。

    Jun, 2024