May, 2021

基于架构感知去噪的端到端文本到 SQL 生成

PDF
TL;DR该研究提出一种基于 transformer-based seq-to-seq 模型的简单而有效的方法，通过 Schema aware Denoising（SeaD）对模型进行训练以更好地对结构化数据进行建模，并提出了一种 clause-sensitive execution guided (EG) 解码策略来克服生成模型的 EG 解码的局限性，实现了在 WikiSQL 基准测试中的最新性能。
发现论文，激发创造
  • 基于去噪序列到序列预训练的文本生成

    本研究提出了一种新的序列到序列（seq2seq）预训练方法 PoDA（去噪自编码器的预训练），该方法通过去噪噪声受损文本来联合预训练编码器和解码器，在不使用任何特定任务技术的情况下，提高了模型性能并显著加速了收敛速度，同时，本研究还使用 Transformer 和指针 - 生成器网络设计了 PoDA 的骨干架构，实验表明 PoDA 可以提高对抽象摘要和语法错误更正这两个文本生成任务的性能。

    Aug, 2019

  • RESDSQL: 文本到 SQL 的模式连接和骨架解析分离技术

    本研究提出一种基于预训练语言模型的 Text-to-SQL 模型，结合排序增强编码和骨架感知解码框架的方法，以解耦数据库模式连接和 SQL 关键字解析，实验表明该模型在 Spider 数据集上表现良好。

    Feb, 2023

  • SeqDiffuSeq：带有编码器 - 解码器变压器的文本扩散

    本文研究使用扩散模型（diffusion model）来处理序列到序列文本生成问题，探讨扩散模型的优越生成性能是否可转移到自然语言领域。提出 SeqDiffuSeq，一种使用自适应噪声调度技术的文本扩散模型，结合自编码器变压器（encoder-decoder Transformers）架构，实现去噪声函数建模，通过实验得出扩散模型在文本生成的质量和推理时间方面都表现良好。

    Dec, 2022

  • 使用 Graph-to-Sequence 模型进行 SQL 到文本生成

    本文提出了一种将 SQL 查询表示为有向图的策略，并采用图到序列模型将全局结构信息编码成节点嵌入的方法，从而有效地学习 SQL 查询模式和其解释之间的相关性，实验结果表明，我们的模型在 WikiSQL 数据集和 Stackoverflow 数据集上表现显著优于 Seq2Seq 和 Tree2Seq 基线模型，达到了最先进的性能水平。

    Sep, 2018

  • 使用模式依赖性学习改进文本到 SQL 的转换

    本篇论文提出了一种基于 Schema Dependency 的多任务 Text-to-SQL 模型（SDSQL），用于有效捕获问题和架构之间的交互，从而减少数据库执行所拖延的推理时间，具有更好的可扩展性和更高的性能。

    Mar, 2021

  • 基于语法的神经网络文本到 SQL 生成

    本文提出了一种处理 neural text-to-SQL models 中编写语法的复杂性的技术，从而生成 schema-dependent grammar，对 ATIS 和 Spider 两个挑战性的 text-to-SQL 数据集进行分析，显示可以减少 14-18% 的相对误差。

    May, 2019

  • SeqGenSQL -- 用于结构化查询语言的稳健序列生成模型

    利用 T5 模型进行文本转 SQL，结合问题增值和自动生成的银标识训练数据，实现了较高的 SQL 执行精度，并接近基于逻辑形式的最新的具有 SOTA 性能系统。

    Nov, 2020

  • T5-SR: 一种用于语义解析的统一 Seq-to-Seq 解码策略

    该篇论文分析了语义解析 (seq2seq) 面临的挑战，如预测语义信息和处理自然语言查询和 SQL 之间的语义连贯性，并提出一种名为 SR 的解码策略，包括一种新的中间表示 (SSQL) 和用于解决这些难题的得分再评估的 reranking 方法。实验证明，该方法在 Spider 数据集上取得了最新的最先进的结果 (T5-SR-3b)。

    Jun, 2023

  • 辅助任务零样本文本到 SQL 学习

    研究了神经序列到序列模型在自然生成的 SQL 任务中的泛化能力问题，并通过构建辅助任务并在 WikiSQL 数据集上的实验中证明其有效性。

    Aug, 2019

  • 带执行引导的 Text-to-SQL 生成的鲁棒性

    该研究探讨了神经话语解析的问题，引入新的执行指南机制来利用 SQL 的语义，证明其普遍提高了基于自回归生成模型的语义解析模型的性能。

    Jul, 2018