Apr, 2024

LLM-R2: 改进的基于规则重写系统的大型语言模型用于提升查询效率

PDF
TL;DR通过采用大语言模型（LLM）为数据库重写系统提出了一种名为 LLM-R2 的新型查询重写方法，该方法能够极大地提高查询执行效率，并且优于基线方法。
query rewritesql queryrewrite ruleslarge language modelquery execution efficiency
发现论文，激发创造
  • 加强对话式搜索：大型语言模型辅助的信息性查询改写

    通过利用大型语言模型作为查询重写器，并结合精心设计的指令，我们定义了四个重写的关键属性，提出了基于大型语言模型的查询重写方法。我们还介绍了 LLMs 的重写能力的提炼，并采用 “先重写后编辑” 的方法来处理初始查询重写。实验结果在 QReCC 数据集上表明，信息丰富的查询重写可以显著提高检索性能，特别是在检索器稀疏的情况下。

    Oct, 2023

  • 检索增强大型语言模型的查询重写

    该研究介绍了一个新的 Rewrite-Retrieve-Read 框架，该框架从查询重写的角度改进了检索增强方法，并通过强化学习调整该框架的策略模型，通过开放域 QA 等下游任务进行了验证。

    May, 2023

  • 大型语言模型时代的查询理解

    本文提出了一种使用大语言模型的通用交互式查询重写框架，旨在提高透明性和意图理解能力，并改变传统的意图理解方法；在初步实验的支撑下，通过自然语言表达、交互和推理机器意图，取得了显著的排序性能提升。

    Jun, 2023

  • LLM 强化策略多模态查询优化器（版本 1）

    本文研究了大型语言模型（LLM）在查询优化方面的能力，并使用 LLM 设计了 LaPuda，一种新颖的基于 LLM 和策略的多模态查询优化器，通过几个抽象策略指导 LLM 进行优化，从而节省了大量时间和人力资源。此外，为了避免 LLM 产生错误的优化，我们借鉴了梯度下降的思想，提出了一种引导成本下降（GCD）算法来执行优化，从而保持优化在正确的方向上。通过评估，我们的方法在大多数情况下都优于基准方法，例如，我们的方法生成的优化计划的执行速度比基准方法快 1~3 倍。

    Mar, 2024

  • RewriteLM：一种针对文本改写的指令调优大型语言模型

    本文介绍了一种新的评估基准 OpenRewriteEval 和一个基于指令调整的大型语言模型 RewriteLM，重点是长篇文本重写，展示了该模型在保留源文本的核心内容和意义，减少幻觉生成的内容，并展示了生成具有多种措辞和结构的改写的能力。

    May, 2023

  • 让大型语言模型能够从规则中学习

    通过从详细的规则中提取知识并显式编码到大型语言模型的参数中，我们提出了一种新的学习范式，即规则蒸馏，并证明这种方法在样本大小和泛化能力方面比基于示例的学习更加高效。

    Nov, 2023

  • LLM 能否遵循简单规则？

    大型语言模型在现实世界中的部署责任越来越重，为了能够可靠地指定和约束这些系统的行为，需要评估模型遵循开发者提供的规则的能力以及其面对对抗性输入的脆弱性。为此，我们提出了一种评估大型语言模型规则遵循能力的编程框架，并通过对模型行为的手动探索和对攻击策略的归纳，发现了各种攻击类型和模型的漏洞，从而为研究人员提供了一个挑战性的新环境来探索和防御对大型语言模型的手动和自动攻击。

    Nov, 2023

  • Re2LLM：面向会话推荐的反思增强型大型语言模型

    提出了一种反思性强化大语言模型（Reflective Reinforcement Large Language Model，Re2LLM）用于会话推荐，通过构建知识库来引导大语言模型（LLM）关注专业知识，以实现更准确的推荐。

    Mar, 2024

  • 基于大语言模型的推荐系统能够获得何种益处：一项调查

    本文综述了基于应用方向的大语言模型在推荐系统中的应用，从‘何处’和‘如何’两方面总结了现有研究工作，并讨论了调整大语言模型到推荐系统中面临的关键挑战和未来前景。

    Jun, 2023

  • LLM-SQL-Solver：LLMs 能否确定 SQL 等价性？

    通过使用大型语言模型和提示技术，本研究探讨了判断两个 SQL 查询之间的等价性的问题，并研究了其在 SQL 生成方面的应用。实验结果表明，大型语言模型是帮助数据工程师编写语义上等价的 SQL 查询的有前景的工具，但仍存在挑战，并且是评估 SQL 生成的更好指标。

    Dec, 2023