Feb, 2024

LLM 通过超参数感知生成实现自我调节

PDF
TL;DR通过利用自动调参指令调节，我们提出了一种新的文本生成范式 —— 超参数感知生成（Hyperparameter Aware Generation，HAG）模型，能够让大型语言模型（LLMs）自主决定最佳的解码策略和配置，实现自我调节的行为。实验结果表明，超参数感知生成使得 LLMs 能够自主调整解码策略和超参数，从而拓展了当前文本生成过程的范畴，并展示了赋予 LLMs 自我调节解码策略的可行性。
large language modelsdecoding strategieshyperparametersself-regulationtext generation
发现论文，激发创造
  • 语言模型能够在无外部监督的情况下自主学习

    大语言模型（LLMs）在追求超人类表现时，传统上一直依赖于人类注释的数据集和预定义的训练目标 - 这是一种既费时又固有有限的过程。本文提出了一种变革性的方法：自主学习 LLMs，这是一种无监督学习范式，使模型摆脱了人类监督的限制。我们的方法使 LLMs 能够通过与文本的直接交互来自我教育，类似于人类阅读和理解文学。我们的实证结果表明，自主学习在综合实验中表现优于预训练、监督微调以及检索增强方法。这些发现突显了自主学习不仅可以提高 LLMs 训练的效率和效果，还可以为更先进、自主的人工智能系统的发展铺平道路。

    Jun, 2024

  • 自回归之火：通过它们所训练解决的问题来理解大型语言模型

    大语言模型的广泛应用使得识别它们的优势和局限性变得重要。我们主张，为了全面理解这些系统，我们需要考虑它们在训练中解决的问题：互联网文本的下一个词预测。通过认识到这个任务所带来的压力，我们可以对大语言模型采用的策略进行预测，从而推断它们的成功或失败。这种方法，我们称之为目的论方法，使我们能够确定三个因素，我们假设这些因素会影响大语言模型的准确性：执行任务的概率、目标输出的概率和提供的输入的概率。我们预测，当这些概率较高时，大语言模型的准确性会更高，而当概率较低时，即使在确定性环境下，概率也不应该起作用。为了验证我们的预测，我们对两个大语言模型（GPT-3.5 和 GPT-4）进行了十一项任务的评估，我们找到了强有力的证据表明大语言模型受到我们假设的概率影响的方式。在许多情况下，实验揭示了令人惊讶的失效模式。例如，当输出是高概率单词序列时，GPT-4 解码简单密码的准确率为 51%，但当输出是低概率时，准确率为 13%。这些结果表明 AI 从业者在低概率情况下使用大语言模型时需要谨慎。更广泛地说，我们得出结论，我们不应该把大语言模型评估为人类，而应该把它们看作一类独特的系统 —— 这类系统经过了自己特定的压力塑造。

    Sep, 2023

  • 通过迭代自我反思，LLM 可以学会自我约束

    为了安全部署，大型语言模型（LLMs）必须能够根据知识水平和特定主题的不确定性动态调整其行为。本文介绍了一种自我控制的方法来教导模型在自信的情况下才产生回答，并使用 ReSearch 算法不断改进模型，从而实现知识的有选择性表达。

    May, 2024

  • LogicLLM: 探索基于自监督逻辑增强训练的大型语言模型

    本篇论文主要介绍了如何通过自监督后训练和上下文学习来增加逻辑知识，从而提高语言模型的逻辑推理能力，取得了比现有基线更好的效果。

    May, 2023

  • 通过启用中间层解码加速 LLM 推理

    我们的研究工作通过指令调整大型语言模型的推理过程，提升其效率同时保持生成质量，这是推广应用这类模型的重要一步。

    Oct, 2023

  • 通过知识检测自我训练大型语言模型

    该论文研究自训练范式，其中大型语言模型 (Large language models, LLMs) 通过自主策划标签并选择性地在未知数据样本上训练，以显著改善多个主题中生成中的虚构问题。此外，选择性训练框架在处理超出分布基准的灾难性遗忘时具有重要意义，解决了训练 LLMs 过程中的关键限制。我们的研究结果表明，这种方法可以大幅减少对大规模标记数据的依赖，为更可伸缩和经济有效的语言模型训练铺平了道路。

    Jun, 2024

  • APAR: LLMs 可以进行自动并行自回归解码

    通过并行自回归生成的方法以及与推理解码相结合，可以显著提高大型语言模型的生成速度和性能。

    Jan, 2024

  • 随机鹦鹉寻找随机鹦鹉：LLMs 易调优且难以被其他 LLMs 检测出

    本文研究了如何对抗当前大规模语言模型检测工具的缺陷，发现攻击者结合 reinforcement from critic 优化方法和 AdamW 优化器可以轻松地规避检测，并对检测器进行破坏，这对防范恶意使用情况具有重要意义。

    Apr, 2023

  • 自动生成巨大，快速生成：快速自回归解码的 LLM-to-SLM

    我们提出了一种混合方法，结合不同规模的语言模型以提高自回归解码的效率，同时保持高性能。该方法利用一个预先训练的冻结语言模型来编码所有提示标记，然后使用生成的表示来引导一个较小的语言模型来更高效地生成响应。与 LLM 相比，我们的方法在翻译和摘要任务中实现了高达 4 倍的速度提升，但只有 1-2% 的性能损失。

    Feb, 2024

  • 大型语言模型可自我提升

    本文提出了一种方法，使用未标注的数据进行自我训练和推理提高，通过 fine-tuning 在多个任务上达到了 SOTA 水平。

    Oct, 2022