提示报告:提示技巧的系统调查
研究调查了 8 个提示特征对生成代码的风格、内容、正确性、复杂性、大小和与开发人员代码的相似性的影响,并考虑了在使用 Copilot 生成 200 个 Java 方法的 124,800 个提示的任务结果表明,某些提示特征,如示例的存在和方法目的的总结,可以显著影响结果的质量。
Feb, 2024
本综述论文通过提供近期进展的结构化概述,对提示工程的不同方法和技术进行分类,详细介绍了提示方法学、应用领域、所使用的模型和数据集,并探讨了每种方法的优点、局限性以及通过分类图和表格总结了数据集、模型和关键点,从而更好地理解这一快速发展领域并为提示工程的未来研究提供洞察、揭示了开放性挑战和机遇。
Feb, 2024
该论文深入探讨了 “元提示” 这一新颖技术,革新了大型语言模型、多模态基础模型和人工智能系统在问题解决和数据解释方面的方法。该技术根植于类型理论和范畴论,并注重信息的结构和语法,提供了一种超越传统以内容为重点的方法的独特框架。我们详细阐述了 “元提示” 的形式定义,并通过与 “少样本提示” 的对比突出了其在不同人工智能应用中的适用性和优越性。关键的探索是将 “元提示” 扩展到复杂推理领域。在这里,我们展示了这一技术如何将复杂问题巧妙地分解为可管理的子问题,从而实现了解决问题的逐步详细方法。这种方法在令牌效率和问题解决情景中提供了公平的比较,与少样例方法相比表现出特殊的优势。此外,该论文通过将 “元提示” 推广到多模态基础模型设置中开创了新的领域。这一扩展解决了在 “元提示” 的结构框架中整合各种数据类型,如图像、音频和视频的挑战和潜力,突显了处理复杂多方面数据的广阔潜能(代码可在此 URL 获取)。
Nov, 2023
本文系统概述了在三种类型的视觉 - 语言模型上的提示工程的前沿研究,包括多模式到文本生成模型、图像 - 文本匹配模型和文本 - 图像生成模型,并总结和讨论了模型概要、提示方法、基于提示的应用以及相关的责任和完整性问题。此外,还讨论了在提示对视觉 - 语言模型、语言模型和视觉模型的共同点和差异,并对挑战、未来方向和研究机会进行了总结,以推动未来对此主题的研究。
Jul, 2023
该研究论文调查和组织了一种新兴的自然语言处理范式,这种范式被称为 “基于提示的学习”,并在其中介绍了其基础知识和数学符号,以及其在预训练模型、提示和调整策略等方面的相关研究成果,该框架通过使用模板将输入 x 修改为具有一些未填充信息的文本字符串提示 x',并将语言模型用于填充未填充信息以获得最终字符串 x,从而实现零样本学习和少样本学习。
Jul, 2021
该论文针对文本生成图片技术进行了 3 个月的民族志研究,提出了 6 种不同类型的文本提示修饰符及其工程应用,为人们研究文本生成图片技术提供了新的分类学概念和启示。同时,该研究还探讨了这一创意实践在人机交互领域以及文本生成图片等人工智能生成艺术领域中的应用前景和广泛意义。
Apr, 2022
最近,大型语言模型和生成式人工智能的出现,释放了文本转图像生成系统惊人的能力,以合理的方式将高质量的图像综合到给定的参考文本中。我们进行了第一次大规模的记录,这些记录由多个文本到图像生成系统收集。我们的研究发现表示用户输入的文本与生成模型的训练数据之间存在很大的差距,并建议我们如何提高这些系统的性能。
Mar, 2023
通过使用生成 AI 进行图像生成,我们收集并分析了超过 300 万个提示和它们生成的图像,通过自然语言处理、主题分析和可视化方法,我们旨在共同理解人们如何使用文本提示,这些系统对艺术家的影响以及它们所推广的视觉文化。我们的研究表明,提示主要关注表面美学,强化文化规范、流行的传统表达和意象。我们还发现许多用户关注流行的主题(如制作填色书、幻想艺术或圣诞卡片),这表明所分析的系统的主要用途是娱乐而非艺术性。
Jan, 2024