Jun, 2024

MAGIC：生成上下文文本转结构化查询语言的自我修正指南

PDF
TL;DRMAGIC 是一种新的多代理方法，自动创建自纠正指南，通过在训练集上对基于 LLM 的方法的失败进行合作，迭代生成和改进适合 LLM 错误的自纠正指南，提高了纠正的可解释性，并提供了分析自纠正中 LLM 失败和成功原因的见解。
self-correctiontext-to-sqlmulti-agent methodllmautomatic self-correction guideline generation
发现论文，激发创造
  • 自动修正大规模语言模型：多样化自我纠正策略概述

    大语言模型自我修正的技术，包括训练和生成阶段的自动反馈，被广泛应用于解决大语言模型在自然语言处理任务中的错误和缺陷问题。

    Aug, 2023

  • 自校正的理论认识与上下文对齐

    基于一种类似于对齐任务的简化设置，我们从上下文学习的角度对自我纠正进行理论分析，显示出大语言模型通过给予相对准确的自我检查作为奖励，能够以上下文的方式改进响应。我们的理论构建突破了之前关于过于简化的线性变换器的理论，阐述了现实变换器的几个关键设计在自我纠正中的作用：softmax 关注、多头关注和 MLP 块。经过广泛的合成数据集验证，我们进一步阐述了自我纠正的新应用，例如抵制大型语言模型越狱，其中简单的自我纠正步骤确实产生了很大的差异。我们相信这些发现将激发进一步研究自我纠正的理解、利用和增强，以构建更好的基础模型。

    May, 2024

  • 语言模型的视野：在文本生成中插入视觉控制

    本研究提出了一个名为 MAGIC 的无需训练的框架，它能够将视觉控制插入文本生成过程中，并使 LM 在零样本情况下执行多模态任务，如图像字幕生成。在零样本图像字幕生成方面，MAGIC 在几乎 27 倍的解码加速度下，极大地超越了现有的最先进方法。

    May, 2022

  • 大型语言模型尚未能够自校正推理

    本文探讨了自我纠错在大型语言模型中的作用和效果，发现大型语言模型在没有外部反馈的情况下难以自我纠正其回应，在某些情况下，性能甚至可能在自我纠正后下降。基于这些发现，提出了未来研究和实际应用的建议。

    Oct, 2023

  • CRITIC：大型语言模型可通过工具交互式批评进行自我修正

    该论文介绍了一种称为 CRITIC 的框架，旨在通过外部反馈来提高大型语言模型的性能和自我完善能力，具体包括对问题回答、代码合成和削减有害内容等方面的基准测试，而这种框架的作用类似于人类交互工具的方式。

    May, 2023

  • 通过学习自我纠正生成序列

    本文介绍了一种称为 Self-Correction 的方法，该方法可以用于解决序列生成应用中存在的语义约束问题，该方法通过将完美的基本生成器与学习逐步纠正其输出的单独的纠正器分离来实现。我们证明，即使纠正器比基本生成器小得多，在数学程序合成、词汇约束生成和毒性控制等三个不同的生成任务上，Self-Correction 仍然优于基本生成器。

    Oct, 2022

  • 关于 LLMs 的内在自我修正能力：不确定性和潜在概念

    通过使用适当的指示，大型语言模型可以利用内在的自我纠正能力，从而提高其回答的准确性和性能，这在大规模自然语言生成中具有潜在的扩展性。同时，通过分析模型不确定性和激活的潜在概念，可以更好地理解和指导自我纠正行为。此原理还可以推广到视觉语言模型，并且在任务无关的去偏领域有潜在的应用价值。

    Jun, 2024

  • LLM 能够自我纠错的实际时机研究：对 LLM 自我纠错的关键调查

    通过对大型语言模型（LLMs）进行自我纠正来提高其回答效果是一种改进方法。本文对自我纠正的研究条件进行了关键性调查，发现以往研究往往缺乏详细定义的研究问题，使用非实用的框架和过度评估自我纠正。通过对新分类的研究问题进行关键性调查，我们发现：（1）以提示的 LLMs 反馈进行自我纠正的先前工作没有成功的示例；（2）自我纠正在可以使用可靠的外部反馈的任务中效果良好；（3）大规模微调可以实现自我纠正。

    Jun, 2024

  • 小型语言模型可以自我纠正

    我们介绍了在生成式语言模型中的内在自我修正（ISC）方法，旨在通过自动触发方式来纠正 LM 的初始输出，即使对于具有 60 亿参数的小型 LM。我们通过构建自我修正数据和提出部分答案屏蔽（PAM）的管道来进行实验，结果表明使用 ISC 生成的输出优于没有自我修正的输出。我们相信，通过赋予它们内在自我纠正的能力，甚至小型 LM 的输出质量也可以进一步提高。

    Jan, 2024

  • 自我反思：学习通过检索、生成和评论

    通过检索和自我反思，Self-RAG 框架提高了语言模型的质量和准确性，在多样任务中显著优于其他模型。

    Oct, 2023