利用表格内容进行元学习的零样本文本到 SQL

AAAISep, 2021

利用表格内容进行元学习的零样本文本到 SQL

Leveraging Table Content for Zero-shot Text-to-SQL with Meta-Learning

Yongrui Chen, Xinnan Guo, Chaojie Wang, Jian Qiu, Guilin Qi...

TL;DR本研究提出了一种新的零样本文本到 SQL 任务中的方法，该方法不依赖于任何额外的手动注释，并在 WikiSQL 数据集和 ESQL 数据集上展开了广泛实验，相较于使用相同预训练模型的现有方法，我们的方法在两个数据集上都取得了显著的改进，特别是在零样本子集上，我们的方法进一步提高了改进。

Abstract

Single-table text-to-sql aims to transform a natural language question into a SQL query according to one single table. Recent work has made promising progress on this task by pre-trained language models and a mul

text-to-sql zero-shot table pre-trained language models meta-learning wikisql

发现论文，激发创造

辅助任务零样本文本到 SQL 学习

研究了神经序列到序列模型在自然生成的 SQL 任务中的泛化能力问题，并通过构建辅助任务并在 WikiSQL 数据集上的实验中证明其有效性。

Aug, 2019

内容增强的基于 BERT 的文本到 SQL 生成

本文提出了一种简单的方法，利用表格内容为基于 BERT 的模型解决文本到 SQL 的问题。通过观察表格内容与问题中的一些单词匹配以及表格标题也与问题中的一些单词匹配，我们为深度模型编码了两个额外的特征向量。我们在 WikiSQL 数据集上进行了测试，并在逻辑形式和执行准确性方面比 BERT 基线提高了 3.7％，成为业内领先者。

Oct, 2019

零样本 NL2SQL 生成中的预训练语言模型和大型语言模型的交替使用

本文提出了 ZeroNL2SQL 框架，该框架结合了 PLMs 和 LLMs 的优势，支持零样本学习自然语言到 SQL 转换。该框架首先通过架构对齐使用 PLMs 生成 SQL 草图，然后使用 LLMs 通过复杂推理填充缺失信息。经过全面实验，ZeroNL2SQL 在现实世界基准测试中取得了最佳的零样本 NL2SQL 性能。

Jun, 2023

基于元学习的自然语言转结构化查询

本文提出一种基于元学习及相关性函数的 few-shot 元学习方法，将原先监督学习的每个样本视为一个独立的伪任务，经过实验验证，该方法在 WikiSQL 数据集上取得较好的成果。

Mar, 2018

TabLLM：基于大型语言模型的小样本表格数据分类

通过将表格数据序列化为自然语言字符串和分类问题简述作为输入，使用大型语言模型进行零样本和小样本分类数据的研究，并评估了几种序列化方法，发现这种方法在多个基准数据集上优于以前的深度学习分类方法。

Oct, 2022

揭示数据库的漏洞：文本到 SQL 系统中的零知识模式推理攻击

通过特别设计的问题，我们开发了一种零知识的框架，用于探测数据库模式的各种元素，从而揭示数据库模式的结构。我们将其应用于文本到 SQL 模型和生成语言模型，可以在细调模型中以近.75 的 F1 值和生成模型中以.96 的 F1 值重建表名。

Jun, 2024

OmniTab：使用自然及合成数据进行预训练的 Few-shot 表格问答模型

本文旨在开发一种简单的基于表格的问答模型，采用全能预训练方法结合自然和合成数据，实现问题与表格的对齐和多元素复杂推理，实验证明该模型在少量和全量数据上性能卓越，在 WikiTableQuestions 数据集上成为新的最优模型，讨论分析自然数据和合成数据的不同特点，为全能预训练提供未来方向。

Jul, 2022

统一表示与多源学习实现的少样本数据生成文本

我们提出了一种新颖的结构化数据到文本生成方法，旨在改善多任务训练、零样本和少样本情况下的性能，并提供可以处理各种形式的结构化数据的统一表示，例如表格、知识图谱三元组和意义表示。我们证明了我们提出的方法可以有效适应新的结构化形式，并在性能上优于当前的方法。

Aug, 2023

ChatGPT 零 - shot 文本到 SQL 能力的综合评估

本文介绍了 ChatGPT 在 Text-to-SQL 能力上的综合分析，使用了 12 个基准数据集进行实验，结果表明 ChatGPT 在 Text-to-SQL 上有着强大的能力，在零样本情况下甚至超过了 SOTA 模型，在实际应用中具有潜在价值，并公开了生成的数据集。

Mar, 2023

可迁移的表格问答

本文设计了新的挑战测试基准 WikiSQL-TS 和 WikiTQ-TS，模拟了实际主题转移场景，并提出了适用于 TableQA 的 T3QA（主题可转移的表格问题回答）方案，包括注入特定主题词汇、生成主题专用训练数据生成程序和逻辑形式重新排序器。我们认为我们的主题分裂基准将会促进更好的部署的鲁棒的 TableQA 解决方案。

Sep, 2021