May, 2023

如何引导 LLMs 进行文本到 SQL 转换：零 - shot、单域和跨域场景的研究

PDF
TL;DR研究大型语言模型在上下文学习中在文本到 SQL 任务中的表现，尤其是对于提示文本构建的影响和最有效的构建策略进行的全面调查。
large language modelsin-context learningtext-to-sql taskprompt constructiondemonstration-retrieval strategies
发现论文，激发创造
  • 增强大型语言模型的少样本文本到 SQL 能力：关于提示设计策略的研究

    本文介绍了一种基于大型语言模型的 In-context learning 方法用于文本到 SQL 查询转换中，通过不同的演示选择策略和指令格式来提高 LLMs 性能。实验结果表明，该方法在 Spider 数据集上超出了最先进系统 2.5 个点，超出了最佳微调系统 5.1 个点。

    May, 2023

  • 基于大型语言模型的文本转 SQL：基准评估

    本文对大型语言模型（LLMs）在 Text-to-SQL 任务中的应用进行了研究，提出了一种新的集成解决方案 DAIL-SQL，并通过实验证明了其在 Spider 排行榜上取得了 86.6% 的执行准确率。研究重点在于提示工程中的令牌效率和任务特定的监督微调。通过探索开源 LLMs 在 Text-to-SQL 中的潜力，以及任务特定的监督微调的优势和劣势，希望能够对 LLMs 在 Text-to-SQL 领域提供更深入的了解，并激发进一步的研究和广泛应用。

    Aug, 2023

  • 大型语言模型的文本到 SQL 能力基准测试：全面评估

    通过构建新数据集和提出五个评估任务，全面评估不同方法在文本到 SQL 过程中的性能，揭示了大型语言模型之间的性能差异，并提出了针对每个任务的最佳上下文学习解决方案，为改进基于大型语言模型的文本到 SQL 系统的开发提供了有价值的见解。

    Mar, 2024

  • 关于上下文学习中零样本提示设计的实际调查

    该论文综述了大型语言模型在自然语言处理任务中的重要性，并聚焦于不同类型的提示（如离散、连续、少样本和零样本）及其对模型性能的影响。论文探讨了手动设计、优化算法和评估方法等多种提示设计方法，以优化模型在不同任务中的性能。此外，论文还讨论了评估提示性能所面临的挑战，并指出了提示设计在充分利用大型语言模型的潜力中的关键作用，为在自然语言处理任务中更有效、更高效地使用大型语言模型提供了启示。

    Sep, 2023

  • SQLPrompt：使用最少标记数据的上下文文本到 SQL 转换

    提出了 “SQLPrompt” 方法，用于改善大型语言模型 (Text-to-SQL) 在少样本预测上的效果，包括创新的提示设计、基于执行结果一致性的解码策略、以及通过不同提示设计和基础模型的混合来提高性能，实验证明 “SQLPrompt” 在有限标注数据的情境学习中显著优于之前的方法，缩小了与使用数千标注数据进行微调的最先进方法的差距。

    Nov, 2023

  • 机器翻译中的大型语言模型：案例研究

    通过系统研究提示策略，我们填补了机器翻译领域中提示还未得到充分探索的空白区域，证明了使用优质的提示样本能够有效地提高机器翻译的性能。

    Jan, 2023

  • 基于检索增强的 GPT-3.5 的文本到 SQL 框架，具备样本感知提示和动态修订链

    本文提出一种基于大型语言模型的 Text-to-SQL 框架 —— 检索增强提示法，包括样本感知提示和动态修订链，通过引入检索来生成针对自然语言问题的 SQL 查询。

    Jul, 2023

  • 零轉化臨床自然語言處理中大型語言模型的提示策略實證評估

    本文综合系统地对五个临床自然语言处理任务（临床意义消除、生物医学证据提取、共指消解、药物状态提取和药物属性提取）的提示工程进行了实验研究，评估了多种提示类型在三种先进的大型语言模型（GPT-3.5、BARD 和 LLAMA2）上的性能，并提出了对临床 NLP 领域提示工程的新见解和指南。

    Sep, 2023

  • MCS-SQL: 利用多个提示和多项选择进行文本到 SQL 生成

    通过使用多个提示的多个方案和借助多个提示，本研究提出了一种新的方法来增强大型语言模型对复杂数据库模式和查询的感知能力，在 BIRD 和 Spider 基准测试中，该方法的执行准确度分别达到了 65.5% 和 89.6%，明显优于之前基于语境学习的方法，并在生成的查询准确度和效率方面建立了新的 SOTA 业绩。

    May, 2024

  • 探究思维链式提示在文本到 SQL 转换中的应用

    本文研究如何通过链式思维提示增强 LLM 的文本到 SQL 解析的推理能力，实验结果表明，通过避免错误传播的详细信息，新方法在 Spider 开发集上的表现比现有方法提高了 2.4 个绝对值。

    May, 2023