Jul, 2024

PAS: 高效数据插损及参数增强系统

HTML
PDF
TL;DR通过在高质量、自动产生的提示补充数据集上训练的LLM，PAS作为一种基于LLM的即插即用APE系统，解决了用户在写作提示时面临的挑战，并实现了卓越的性能，在综合测试中超越了先前的APE模型，并改善了平均得分6.09点；此外，PAS具有高效性，在只有9000个数据点的情况下实现了卓越的性能；此外，PAS还可以自动生成提示增强数据，无需额外的人力投入；其灵活性使其与所有现有的LLMs兼容，并适用于各种任务；PAS在人类评价中表现出色，突显其作为用户插件的实用性和有效性。
发现论文，激发创造
  • 大型语言模型是人类水平的提示工程师

    使用语言模型作自然语言指导的条件，我们提出了自动提示工程师（APE），通过搜索竞选一组精心设计的自动生成的提示中的最佳提示来优化指令来解决NLP任务中的性能问题，并实现对模型的更好的指导和性能提升。在24个任务中，通过自动产生的新指令，我们的APE方法可使性能提高，并在19个任务中的性能甚至好于人类注释者生成的指令。通过大量定性和定量分析，我们证明了APE的有效性。

    Nov, 2022

  • 大型语言模型中开发提示工程的潜力释放：综合回顾

    该综述研究了快速建模在发挥大型语言模型的能力方面的关键作用，探讨了角色激励、单次指示、观点链、观点树等快速建模的基本原则和高级方法，并阐述了外部插件如何协助此任务并减少机器幻觉，强调了深入了解结构和代理角色在人工智能生成内容工具中的重要性，最后讨论了在教育和编程等领域中应用快速建模的实践和潜力。

    Oct, 2023

  • 自回归大型语言模型中的提示

    自回归大语言模型已经改变了自然语言处理领域的格局。基于预训练和提示范式的方法已经取代了常规的预训练和微调方法用于许多下游自然语言处理任务。本文讨论了已经在自回归大语言模型上使用的各种提示技术，提供了一个基于这个分类体系的简明调研，并且确定了自回归大语言模型中提示领域的一些未解决问题，可作为未来研究的方向。

    Nov, 2023

  • 大型语言模型中关于提示工程的系统调查：技术与应用

    本综述论文通过提供近期进展的结构化概述，对提示工程的不同方法和技术进行分类，详细介绍了提示方法学、应用领域、所使用的模型和数据集，并探讨了每种方法的优点、局限性以及通过分类图和表格总结了数据集、模型和关键点，从而更好地理解这一快速发展领域并为提示工程的未来研究提供洞察、揭示了开放性挑战和机遇。

    Feb, 2024

  • 大型语言模型的高效提示方法综述

    在这篇论文中，我们对高效提示的各种方法进行了全面的概述，包括使用高效计算和高效设计进行提示的方法，重点关注未来的研究方向。

    Apr, 2024

  • 重新审视 OPRO：小规模语言模型作为优化器的局限性

    通过使用LLMs作为优化器找到最大化任务准确性的指令，Optimization by PROmpting (OPRO)方法在相对小规模的LLMs上展现了有限的有效性，我们建议未来的自动提示工程要考虑模型能力和计算成本，并针对小规模LLMs使用明确概述目标和方法的直接指令作为鲁棒的提示基准，以确保正在进行的研究中的高效有效的提示工程。

    May, 2024

  • PromptWizard: 任务感知的代理驱动提示优化框架

    利用大型语言模型，PromptWizard框架通过迭代合成和优化面向特定任务的提示信息，包括了指令和上下文示例的优化，提高了模型的性能。该框架在效率、数据量和小型语言模型上的适应性以及优于现有提示策略的实证评估中展现出优越性，呈现出良好的可行性和可扩展性。

    May, 2024

  • 大型语言模型中的自主提示工程

    通过引入自动提示工程工具箱（APET）使GPT-4能够自主地应用提示工程技术，该研究通过利用高级策略，如专家提示、思维链和思维树，使GPT-4能够动态优化提示，从而在诸如词语排序（增长4.4%）和几何形状（增长6.8%）等任务中显著提高性能，并展示了APET在无需使用外部数据的情况下自动化复杂提示优化过程的潜力，为未来自主AI系统的创新提供了坚实的框架，并突显了GPT-4将提示工程理论应用于实践的能力，为提高复杂任务性能和拓宽这些技术在实际场景中的应用打下了基础。

    Jun, 2024

  • 大型语言模型中不同自然语言处理任务的提示工程方法综述

    通过总结44篇研究论文，本文讨论了大型语言模型在各个自然语言处理任务中的提示工程技术，包括39种不同的提示方法在29个不同的任务上的性能表现、使用的语言模型以及对特定数据集的可能最先进技术，并提供了任务分类图。

    Jul, 2024

  • 评估先进大型语言模型技术在机器人课程中的人工智能讲师的影响

    本研究评估了大型语言模型（LLMs）在大学课程中作为人工智能讲师的表现，尤其是通过使用提示工程、检索增强生成（RAG）和微调等先进技术。研究发现，RAG结合提示工程显著提高了模型的回复质量，并产生了更好的事实性答案，为教育领域的技术集成提供了潜在的解决方案。

    Aug, 2024