GraPPa 是一种有效的预训练方法，用于表语义分析，学习了文本和表格数据的联合表示中的组合归纳偏置。它通过从现有文本到 SQL 数据集中归纳出的同步上下文无关文法（SCFG）构造高质量表的综合问题 - SQL 对，使用一种新的文本模式链接目标在合成数据上进行模型预训练，并包括遮蔽语言建模以引导预训练过程。GraPPa 在四个流行的全监督和弱监督表格语义解析基准上都显着优于 RoBERTa-large，建立了新的所有最先进的结果。

Sep, 2020

使用数据增强来增强文本到 SQL 解析器对自然语言变化的鲁棒性，通过大型语言模型生成更真实和多样化的问题，从而在评估集合中实现显著的改进。

Feb, 2024

提出了一种名为语法预训练的 Text-to-SQL 解析新方法，通过增加问题词后的随机值以及优化解码器部分的向量初始化，采用泛化效果更佳的非零训练损失等技术提高了模型性能，成功地应用于了跨数据库的 Text-to-SQL 数据集（spider），在开发集上获得了 72.8% 的准确性，在测试集上获得了 69.8% 的准确性。

Jan, 2021

利用生成模型将自然语言问题转换成 SQL 查询，并通过考虑表格结构和 SQL 语法来提高查询的可执行性和准确性。在 WikiSQL 数据集上进行实验，将执行准确率从 69.0％提高到 74.4％。

Apr, 2018

本文提出了一种新的基于 SQL 引导的预训练框架 STAR，用于上下文相关的文本到 SQL 解析，通过利用上下文信息，丰富自然语言（NL）话语和表模式表示，以解决文本到 SQL 解析中的问题，并取得了两个下游基准测试（SParC 和 CoSQL）的新最高性能，该研究可推动该领域的研究。

Oct, 2022

StruG 是一种基于弱监督预训练框架的文本转 SQL 方法，在列基础和值基础映射方面，使用 Spider-Realistic 数据集进行评估，并在多个数据集上进行跨库评估，证明其在所有设定上都显著优于 BERT-LARGE，并且在更现实的情况下优于其他先前的预训练方法。

Oct, 2020

本研究着重于解决语义分析中的组成和领域通用性问题，尝试改进基于预训练语言模型的语义解析器的泛化能力，并通过两种简单的方法，在标记化处理等方面达到了实验效果的显著提升。

May, 2023

提出了一种利用自然语言反馈进行语义解析更正的方法，通过将任务的语义和语法困难分离，只需一轮自然语言反馈即可将文本到 SQL 解析器的准确性提高 26％；同时表明 T5-base 模型能在无需训练的情况下，纠正 T5-large 模型的错误。

May, 2023

该研究探讨了神经话语解析的问题，引入新的执行指南机制来利用 SQL 的语义，证明其普遍提高了基于自回归生成模型的语义解析模型的性能。

Jul, 2018

本文提出了一种基于标记级精细化查询理解的通用、模块化的神经语义分析框架，包括命名实体识别器（NER）、神经实体链接器（NEL）和神经语义解析器（NSP），该框架联合建模查询和数据库，并基于动态生成的语法合成基于树结构的 SQL 查询。实验证明，该模型在 SQUALL 数据集上的执行准确率达到了 56.8％，超过了现有技术水平 2.7％。

Sep, 2022