Mar, 2024

SQL-Encoder: 基于上下文的编码器改进 NL2SQL 中的上下文学习

PDF
TL;DR本文研究了在上下文学习模型中选择示例的结构相似性检测，并提出了一种准确估计这种相似性的模型，通过在训练语义预测模型的精心策划的 170k 个问题对中利用基于 SQL 查询的相似性度量。全面的评估结果表明，所提出的模型在捕捉问题间结构相似性方面表现出色，表现体现在 Kendall-Tau 距离和 precision@k 指标的改进上。值得注意的是，与 OpenAI 和 Cohere 等竞争性嵌入模型相比，我们的模型在 1-shot 上下文学习场景中提高了 GPT-3.5-turbo、CodeLlama-7B 和 CodeLlama-13B 的 NL2SQL 模型表现 1-2%、4-8% 和 2-3%。
发现论文，激发创造
  • 一个编码器 - 解码器框架，将自然语言翻译为数据库查询

    本研究考虑将自然语言转换成 SQL，用于关系数据库的数据检索。我们提出了一种新的编码 - 解码框架，包括新的语义特征和语法感知状态等新方法。实证评估结果表明，我们的方法在真实世界的数据库和查询上明显优于现有技术。

    Nov, 2017

  • 基于数据库架构交互图的上下文相关文本到 SQL 生成的神经模型

    本研究提出了一种基于数据库架构图编码器的上下文相关文本到 SQL 任务模型，该模型使用历史用户输入的编码器和数据库架构项的历史信息，采用门控机制加权不同词汇的重要性，取得 SParC 数据集和 CoSQL 数据集上的最新最佳结果，并证明了该模型的实用性。

    Nov, 2020

  • DIN-SQL：基于上下文分解的自我修正文本到 SQL 学习

    研究了如何将复杂的文本到 SQL 任务分解为较小的子任务，从而显著提高大型语言模型（LLMs）在推理过程中的性能，证明了将 SQL 查询分解为子问题并将这些子问题的解决方案提供给 LLMs 可以显著提高性能。在三个 LLMs 上的实验表明，此方法始终将性能提高约 10％，推动 LLMs 的准确性接近最先进水平，甚至超过用于持有 Spider 数据集的大型精调模型。

    Apr, 2023

  • 具备表格感知的单词语境综合 WikiSQL 探索

    SQLova 是第一个在 WikiSQL 数据集中实现人类性能的自然语言到 SQL 模型，利用了 BERT 通过有效的表格语境方法，结合了多种流行的 NL2SQL 方法，在逻辑形式和执行准确度方面分别优于先前的最新技术水平 8.2％和 2.5％。我们特别注意到，在使用这样的大型预训练模型时，BERT 与序列到序列解码器会导致性能不佳，这表明设计的重要性。我们还对数据集和我们的模型进行了全面的分析，这可能有助于设计未来的 NL2SQL 数据集和模型。我们特别展示了我们模型的表现已经接近 WikiSQL 的上限，在其中我们观察到大部分评估错误是由于错误的注释，而我们的模型在执行准确度方面已经超过人类表现 1.3％。

    Feb, 2019

  • 使用句子编码器和短语对齐朝向结构感知的释义识别

    本文提出一种将句子编码器与对齐组件相结合的方法，针对改善意思相似度比较任务的性能和可解释性，并通过具体实验证明了该方法能够提升模型对结构差异和高词汇重复的语句的区分能力。

    Oct, 2022

  • S$^2$SQL：在文本到 SQL 解析器中注入语法以实现问题 - 架构交互图编码器

    本文提出了一种注入语法到问 - Schema 图编码器中用于 Text-to-SQL 解析器的方法 ——S$^2$SQL，它有效地利用了问题中的句法依赖信息来提高性能，并采用解耦约束来诱导多样化的关系边缘嵌入，实验结果在 Spider 和鲁棒性设置 Spider-Syn 上均表现优于所有现有方法，使性能在 Spider 排行榜上名列前茅。

    Mar, 2022

  • 使用关系感知自注意力编码数据库模式，用于文本到 SQL 解析器

    通过使用自我关联，让编码器理解表格和列之间的关系，以及将该信息使用在问题的解释过程中，使得神经编码器 - 解码器系统能够在 SQL 查询的实现上具有较好的泛化性，从而在 Spider 数据集上获得 42.94% 的精确匹配准确率。

    Jun, 2019

  • RAT-SQL：基于关系感知的文本 - SQL 解析器的模式编码和链接

    该研究使用基于关系感知自注意机制的统一框架，解决将自然语言问题转换为 SQL 查询中出现的通用性问题，包括编码数据库关系，建立数据库列和查询的链接，以及特征表示。在 Spider 数据集上，该框架将的精确匹配准确度提高到 57.2％，优于其最好的对手 8.7％的绝对改进，并在 BERT 的支持下，实现了 65.6％的性能，成为了新的最佳表现，同时也在模型对数据库链接和对齐的理解方面得到了定性改善。

    Nov, 2019

  • NL2SQL 的关系感知半自回归语义解析

    该论文提出了一种基于关系嵌入的半自回归语义分析 NL2SQL 方法，通过 ELECTRA 和关系感知 transformer 层实现与模式实体及问题单词之间的关系嵌入，再使用半自回归解析器和预定义的 SQL 语法解码查询 SQL，从实验结果和案例研究来看，该方法在 NL2SQL 中具有更好的词汇表现力。

    Aug, 2021

  • DeTriever：基于解码器表示的检索器，用于改进自然语言到 SQL 语句的上下文学习

    提出了一种新的演示检索框架 DeTriever，使用大语言模型的隐藏状态的加权组合来学习富语义信息，并通过估计输出查询之间的相似性来评估示例之间的相对好处。在两个热门 NL2SQL 基准测试上的实验表明，该方法在一次性 NL2SQL 任务中显著优于最先进的基准线。

    Jun, 2024