使用类别论的理论框架来描述和推广统计模型中的元提示方法，研究发现元提示方法在创意和构思领域的应用比基本提示方法更有效。

Dec, 2023

该论文深入探讨了 “元提示” 这一新颖技术，革新了大型语言模型、多模态基础模型和人工智能系统在问题解决和数据解释方面的方法。该技术根植于类型理论和范畴论，并注重信息的结构和语法，提供了一种超越传统以内容为重点的方法的独特框架。我们详细阐述了 “元提示” 的形式定义，并通过与 “少样本提示” 的对比突出了其在不同人工智能应用中的适用性和优越性。关键的探索是将 “元提示” 扩展到复杂推理领域。在这里，我们展示了这一技术如何将复杂问题巧妙地分解为可管理的子问题，从而实现了解决问题的逐步详细方法。这种方法在令牌效率和问题解决情景中提供了公平的比较，与少样例方法相比表现出特殊的优势。此外，该论文通过将 “元提示” 推广到多模态基础模型设置中开创了新的领域。这一扩展解决了在 “元提示” 的结构框架中整合各种数据类型，如图像、音频和视频的挑战和潜力，突显了处理复杂多方面数据的广阔潜能（代码可在此 URL 获取）。

Nov, 2023

通过使用元认知提示，通过系统性的结构化、自我意识评估，结合大量内在的知识和新的认识，可以提高大型语言模型的理解能力。实验结果表明，元认知提示始终优于现有的提示方法，并通过提高 GPT-4 的性能水平，增强了 GPT-4 在各种自然语言理解任务中的表现。

Aug, 2023

使用 GPT-3 模型分析得出少量样例引导更接近于已学习的任务，本文探讨使用自然语言编程来优化引导，提出元引导概念后能够生成更多的任务自然语言引导，展望这些方法如何应用于实践应用。

Feb, 2021

通过使用一种新的无监督嵌入方法，MetaEOL，我们能够从大型语言模型（LLMs）中生成高质量的句子嵌入，而不需要模型微调或任务特定的工程处理。使用元任务提示，MetaEOL 通过一系列精心设计的提示引导 LLMs 生成嵌入，这些提示处理了多个表示方面。我们的综合实验表明，从各种元任务平均得到的嵌入在语义文本相似性（STS）基准测试中表现出了竞争力，并在下游任务中表现优异，并超越了对比训练的模型。我们的发现提出了一种新的嵌入生成规律，并提供了一种多用途、节约资源的嵌入提取方法，适用于不同的句子中心场景。

Feb, 2024

本文提出了一种称为 MetaPrompting 的通用软提示方法，它采用了公认的模型无关元学习算法来自动找到更好的提示初始化，有助于快速适应新的提示任务，并在四个不同的数据集上取得了显著的改进（1-shot 模式下精度提高了超过 6 个百分点），达到了新的最佳性能水平。

Sep, 2022

本文介绍了一种使用神经语言模型的 zero-shot prompting 方法，在不需要监督训练的情况下解决 ad-hoc 语言任务。我们提出了 PromptIDE 工具，该工具可以帮助用户实验不同的提示词选择，以达到任务指标的优化和数据量的扩展。该工具已在多个现实世界的案例中得到了应用。

Aug, 2022

通过提出多维任务提示学习方法（MTPrompt），将更多的任务相关信息嵌入提示中，以激发大型语言模型中嵌入的知识，从而实现在少样本和五个不同数据集上取得最佳结果，并在不同实验设置和削减实验中展示了该方法的有效性和稳定性。

Dec, 2023

利用自动化方法生成的 AutoPrompt，我们展示了预训练语言模型在自然语言推理、情感分析和关系提取方面的潜在能力，以及自动生成的提示方法是现有探究方法的一个可行的无参数替代方法。

Oct, 2020

本文探讨利用语言模型 (LLMs) 作为知识源，辅助 agent 学习新任务的能力。通过使用构建提示词（或 “暗示”），研究什么样的响应既合理，又可以满足 Agent 任务上下文。研究结果表明，在线 agent 任务学习可以从 LLMs 获取可操作的任务知识。

Sep, 2022