Mar, 2024

面向复杂文本到 SQL 的模式感知多任务学习

PDF
TL;DR传统的文本到 SQL 解析器在合成涉及多个表格或列的复杂 SQL 查询方面表现不佳，为了解决这个问题，我们提出了一种面向模式的多任务学习框架（名为 MTSQL）来处理复杂的 SQL 查询。通过设计一个模式链接鉴别器模块来区分有效的问题 - 模式关联，明确指示编码器通过特殊的链接关系来增强对齐质量。在解码器方面，我们定义了 6 种关系类型来描述表格和列之间的连接，并引入以运算符为中心的三元抽取器来识别那些与预定义关系相关的模式项。此外，我们通过预测的三元组建立了一组语法约束规则集，用于在 SQL 生成过程中过滤适当的 SQL 运算符和模式项。在跨领域的具有挑战性的文本到 SQL 基准测试 Spider 上，实验结果表明 MTSQL 比基线方法更有效，特别是在极端困难的场景中。此外，进一步的分析验证了我们的方法在处理复杂 SQL 查询方面的有希望的改进。
text-to-sql parsersschema-aware multi-task learning frameworksql queriesschema itemsalignment quality
发现论文，激发创造
  • RAT-SQL：基于关系感知的文本 - SQL 解析器的模式编码和链接

    该研究使用基于关系感知自注意机制的统一框架，解决将自然语言问题转换为 SQL 查询中出现的通用性问题，包括编码数据库关系，建立数据库列和查询的链接，以及特征表示。在 Spider 数据集上，该框架将的精确匹配准确度提高到 57.2％，优于其最好的对手 8.7％的绝对改进，并在 BERT 的支持下，实现了 65.6％的性能，成为了新的最佳表现，同时也在模型对数据库链接和对齐的理解方面得到了定性改善。

    Nov, 2019

  • 使用模式依赖性学习改进文本到 SQL 的转换

    本篇论文提出了一种基于 Schema Dependency 的多任务 Text-to-SQL 模型（SDSQL），用于有效捕获问题和架构之间的交互，从而减少数据库执行所拖延的推理时间，具有更好的可扩展性和更高的性能。

    Mar, 2021

  • 通过迭代学习模式链接图来提升语义文本到 SQL 解析能力

    本文提出一种名为 ISESL-SQL 的框架，通过具有迭代性的语义增强架构图方法，构建了问题单词和数据库模式之间的联系，提高文本到 SQL 系统的泛化能力。实验结果表明，ISESL-SQL 优于其他基准模型，并展示了其在多种数据库上的鲁棒性和泛化能力。

    Aug, 2022

  • RESDSQL: 文本到 SQL 的模式连接和骨架解析分离技术

    本研究提出一种基于预训练语言模型的 Text-to-SQL 模型，结合排序增强编码和骨架感知解码框架的方法，以解耦数据库模式连接和 SQL 关键字解析，实验表明该模型在 Spider 数据集上表现良好。

    Feb, 2023

  • SQL-to-Schema 提升文本到 SQL 的模式链接

    使用 CodeLlama-34B 建立了一种创新的模式链接方法，通过从初始 SQL 查询中提取表格和列，创建了一个简明的架构，并且在与主流方法对比的情况下，在 SQL 生成方面表现最佳。利用 GPT4，在 Spider 数据集上实现了与主流 Text-to-SQL 方法相媲美的结果。

    May, 2024

  • DIN-SQL：基于上下文分解的自我修正文本到 SQL 学习

    研究了如何将复杂的文本到 SQL 任务分解为较小的子任务，从而显著提高大型语言模型（LLMs）在推理过程中的性能，证明了将 SQL 查询分解为子问题并将这些子问题的解决方案提供给 LLMs 可以显著提高性能。在三个 LLMs 上的实验表明，此方法始终将性能提高约 10％，推动 LLMs 的准确性接近最先进水平，甚至超过用于持有 Spider 数据集的大型精调模型。

    Apr, 2023

  • Proton：用于预训练语言模型的模式链接信息探究，以支持文本到 SQL 解析

    本论文提出了一种新的框架，基于 Poincaré 距离度量，通过探测程序从大规模预训练的语言模型中引出关系结构，以加强当前基于图的解析器，进而实现更好的模式链接。

    Jun, 2022

  • 基于语法的神经网络文本到 SQL 生成

    本文提出了一种处理 neural text-to-SQL models 中编写语法的复杂性的技术，从而生成 schema-dependent grammar，对 ATIS 和 Spider 两个挑战性的 text-to-SQL 数据集进行分析，显示可以减少 14-18% 的相对误差。

    May, 2019

  • 使用关系感知自注意力编码数据库模式，用于文本到 SQL 解析器

    通过使用自我关联，让编码器理解表格和列之间的关系，以及将该信息使用在问题的解释过程中，使得神经编码器 - 解码器系统能够在 SQL 查询的实现上具有较好的泛化性，从而在 Spider 数据集上获得 42.94% 的精确匹配准确率。

    Jun, 2019

  • MultiSpider：旨在基准测试多语言文本到 SQL 语义解析

    本文介绍了 MultiSpider 数据集与 SAVe 框架，MultiSpider 数据集覆盖 7 种语言，且文中进一步提出了各种语言下，text-to-SQL 语义解析所面临的词汇和结构上的挑战，导致非英语言的解析准确率下降了 6.1％，而 SAVe 框架则通过对 Schema 进行增强从而有助于提升解析的性能。

    Dec, 2022