Feb, 2020

Bertrand-DR: 基于判别式重排的文本到 SQL 改进方法

PDF
TL;DR本文提出一种判别式 re-ranker 方法，用于在 generative text-to-SQL 模型的预测输出中提取最佳 SQL 查询，从而提高表现。作为 schema agnostic BERT 细调分类器构建 re-ranker。在分析不同查询难度级别的 text-to-SQL 和 re-ranker 模型的相对优势的基础上，建议如何结合这两种模型以获得最佳表现，我们通过将其应用于两种最先进的 text-to-SQL 模型，证明了 re-ranker 的有效性，在编写本文时在 Spider 排行榜上排名前四。
text-to-sqlgenerative modelsbertre-rankerquery performance
发现论文，激发创造
  • 使用 LLM 从候选项中选择正确的 SQL 查询

    文中介绍了一种自动生成数据库和使用 LLMs 预测期望执行结果的自动测试用例生成方法，并基于此方法提出了一种从候选列表中选择正确 SQL 查询的重新排序方法，实验证明应用该重新排序方法后一些最新模型的性能有 3.6% 的改进。

    Jan, 2024

  • 基于 AST 排序和架构修剪的改进检索增强型文本到 SQL 模型

    通过动态检索输入数据库信息和使用抽象语法树选择少量示例以进行上下文学习，本文提出一种从大型语言模型的角度着眼于文本到 SQL 语义解析的方法，并研究并行语义解析器在生成预期 SQL 查询的近似版本方面的利用程度。作者利用不到 500M 参数的极其高效的逼近模型进行了实验，应用于语义解析的单语和跨语言基准测试中，取得了比现有基准的改进效果，并对未来工作方向提出了有趣的见解。

    Jul, 2024

  • 文本到 SQL 的混合排名网络

    本文旨在研究如何应用预训练语言模型和 Hybrid Ranking Network (HydraNet) 方法来优化 Text-to-SQL 任务，通过将问题和一个具体的列一起以列排名和解码的形式呈现，然后通过简单的规则组装到一起。实验表明，该方法非常有效，并在 WikiSQL 数据集上实现了最佳表现。

    Aug, 2020

  • 内容增强的基于 BERT 的文本到 SQL 生成

    本文提出了一种简单的方法，利用表格内容为基于 BERT 的模型解决文本到 SQL 的问题。通过观察表格内容与问题中的一些单词匹配以及表格标题也与问题中的一些单词匹配，我们为深度模型编码了两个额外的特征向量。我们在 WikiSQL 数据集上进行了测试，并在逻辑形式和执行准确性方面比 BERT 基线提高了 3.7％，成为业内领先者。

    Oct, 2019

  • 文本转 SQL 系统的 N-Best 假设重新排序

    该研究使用预训练语言模型和约束解码技术，通过重新排序和重新解析的方式来改进 Text-to-SQL 任务的查询准确性，最终在任务中达到了最高准确率，并提出了查询计划生成方案的启发式模式。

    Oct, 2022

  • DuoRAT: 迈向更简单的文本到 SQL 模型

    本研究旨在建立 DuoRAT 作为对最新的 RAT-SQL 模型的重新实现，验证其在使用关系感知或普通变换器作为构建块的情况下的有效性，并通过消融实验来确认一些技术的有用性以及结构化 SQL 功能和在问题与架构之间建立联系的冗余特征。

    Oct, 2020

  • 基于排名的生成模型在 [CLS] 任务中的应用

    本研究旨在重新审视信息检索的生成式框架，并比较其与基于语义相似性的判别式模型在答案选择任务上的表现。同时，还展示了非似然损失对信息检索的有效性。

    Oct, 2020

  • 在歧义下进行文本到 SQL 生成的基准测试和改进

    通过 AmbiQT 基准测试，我们提出了一种解决自然语言查询中的 SQL 歧义性问题的新的解码算法 LogicalBeam，它通过计划模板生成和受限填充的方式在 SQL 语义空间中导航，并在排名前 k 的结果中生成所有候选 SQL，相比于现有模型，LogicalBeam 在生成 SQL 方面表现效果提升了最多 2.5 倍，并且在 SPIDER 和 Kaggle DBQA 上的 Top-5 精确度和执行匹配精确度也有所改善。

    Oct, 2023

  • 评估跨领域文本到 SQL 模型和基准

    通过对几个重要的跨领域文本到 SQL 基准进行广泛的研究和重新评估，本文发现由于提供的样本可能有多个解释，这些基准的完美表现是不可行的，并且在重新评估后，模型的相对性能会发生变化。最令人瞩目的是，我们的评估发现，最近基于 GPT4 的模型在人工评估中超过了 Spider 基准中的金标准参考查询，这一发现强调了在谨慎解读基准评估的同时，独立评估在推动该领域进展中起到关键作用。

    Oct, 2023

  • 基于深度学习的自然语言文本到 SQL 查询转换：一项调查

    本文研究了使用自然语言作为桥梁，通过有效访问数据库创建一个高效的文本到 SQL 模型，重点探讨了 24 个不同神经网络模型以及 11 个常用数据集的特点和局限性，最终讨论了 Text2SQL 技术在实现无缝数据查询方面的可能性。

    Aug, 2022