一个提示模式目录:用于增强 ChatGPT 的提示工程
本文介绍了利用大型语言模型 (ChatGPT) 自动化软件工程活动,如确保代码与第三方库解耦和模拟 Web 应用程序 API 的快速设计技术。该文提供了解决软件工程中常见问题的模式目录,并探讨了几个应用模式以改善需求概述、快速原型、代码质量、重构和系统设计。
Mar, 2023
通过分析 Prompt 编辑行为和变化类型,以更好地理解 Prompt 工程实践,我们发现与大型语言模型的交互主要通过提示进行,并且有效提示设计取决于用户的迭代过程和目标的实现。
Mar, 2024
该综述研究了快速建模在发挥大型语言模型的能力方面的关键作用,探讨了角色激励、单次指示、观点链、观点树等快速建模的基本原则和高级方法,并阐述了外部插件如何协助此任务并减少机器幻觉,强调了深入了解结构和代理角色在人工智能生成内容工具中的重要性,最后讨论了在教育和编程等领域中应用快速建模的实践和潜力。
Oct, 2023
医疗领域中探索提示工程的有效性:回顾近期 114 项应用提示工程于医学领域的研究,覆盖提示学习、提示调优和提示设计领域,结果发现提示设计是最普遍的方法,其中有 12 篇论文中三者的术语被交替使用。ChatGPT 是最常用的大型语言模型,有七篇论文使用它来处理敏感的临床数据,而 “Chain-of-Thought” 是最常见的提示工程技术。提示学习和提示调优的研究通常为评估基于提示的方法提供了基准,但 64% 的提示设计研究缺乏非提示相关的基准。我们提供了总结现有工作的表格和图表,并提出建议以指导未来的研究贡献。
May, 2024
本综述论文通过提供近期进展的结构化概述,对提示工程的不同方法和技术进行分类,详细介绍了提示方法学、应用领域、所使用的模型和数据集,并探讨了每种方法的优点、局限性以及通过分类图和表格总结了数据集、模型和关键点,从而更好地理解这一快速发展领域并为提示工程的未来研究提供洞察、揭示了开放性挑战和机遇。
Feb, 2024
大型语言模型的兴起改变了自然语言处理领域从单任务导向到全面的端到端多任务学习范式,其中基于大型语言模型的提示方法引起了广泛关注,尤其是由于提示工程的技术优势以及不同提示方法揭示的自然语言处理原理。本研究旨在通过建立通信理论框架来评述现有的提示工程方法,深入了解其中在四个典型任务中的发展趋势,并为未来的提示工程方法指明有前途的研究方向。
Oct, 2023
使用 GPT-3 等自然语言处理模型在业务流程管理(BPM)领域中取得了成功,但需要 fine-tuning 以及大量适当的训练数据。为此,本文提出可以借助 prompt engineering 将这些语言模型能力引入 BPM 研究,并提出了相关潜力和挑战的研究议程。
Apr, 2023
本文系统概述了在三种类型的视觉 - 语言模型上的提示工程的前沿研究,包括多模式到文本生成模型、图像 - 文本匹配模型和文本 - 图像生成模型,并总结和讨论了模型概要、提示方法、基于提示的应用以及相关的责任和完整性问题。此外,还讨论了在提示对视觉 - 语言模型、语言模型和视觉模型的共同点和差异,并对挑战、未来方向和研究机会进行了总结,以推动未来对此主题的研究。
Jul, 2023
LLMs have demonstrated commendable performance across diverse domains, but formulating high-quality prompts to effectively instruct LLMs poses a challenge. Inspired by structured reusable programming languages, LangGPT is proposed as a dual-layer prompt design framework that significantly enhances the capacity of LLMs to produce superior responses and has proven effective in guiding LLMs to generate high-quality prompts.
Feb, 2024