May, 2023

提前 P 调整

PDF
TL;DR本文提出了 Ahead-of-Time (AoT) P-Tuning 方法，即在每个 Transformer 层之前添加输入相关偏置的一种新颖的针对预训练语言模型的参数高效微调方法。在 GLUE 和 SuperGLUE 基准数据集上使用 RoBERTa 和 DeBERTa 模型对 AoT P-Tuning 进行了评估，表明它优于 BitFit，并且与其他基准方法一样或更好。此外，我们评估了 AoT P-Tuning 的推理开销，并证明它引入的开销与已建立的基准方法相比可以忽略不计。我们的方法使得单个骨干语言模型能够进行多任务推理，从而成为现实世界应用的实用解决方案。
发现论文，激发创造
  • 面向参数效率语言模型微调的自适应前缀调整

    本研究聚焦于前缀调整 fine-tuning 技术，并提出了自适应前缀调整（APT）方法，结合门控机制实现对细粒度和粗粒度级别的前缀优化，实证实现了在 SuperGLUE 和 NER 数据集上的有效性和效率验证。

    May, 2023

  • APT: 自适应剪枝和调整预训练语言模型用于高效训练和推理

    通过自适应修剪和调整参数，APT 可以提高语言模型的训练和推理效率，同时保持高性能。

    Jan, 2024

  • AlphaTuning: 大规模预训练语言模型的量化感知参数高效适应

    本研究旨在将后训练量化与仅对定向任务的一些部分进行量化的精细调整相结合，以使模型更加快速且效率更高，我们提出了 AlphaTuning 控制模型的大小，通过二进制编码量化、调整二进制参数和针对下游任务进行唯一的倍数调整，证明我们的方法在 11 种下游任务上使用 4 位或更高的量化精度时，仅使用总参数数量的 1/10 进行细调。

    Oct, 2022

  • 视觉提示调优

    该论文提出了一种名为 Visual Prompt Tuning（VPT）的高效且有效的调整大规模 Transformer 模型的替代方案，相较于 fine-tuning，VPT 仅在输入空间中引入很少的可训练参数，通过在广泛的下游识别任务上的实验，我们发现 VPT 在许多情况下甚至比全尺寸 fine-tuning 更加优秀，同时减小了每个任务的存储成本。

    Mar, 2022

  • Prefix-Tuning: 优化连续提示用于生成任务

    本文提出字首调整 (prefix-tuning)，来解决专用模型使用全量预训练语言模型的空间问题，自动学习小、定制化的向量。通过应用于自然语言生成和文本总结，仅使用 0.1% 的参数即能达到很好的性能。

    Jan, 2021

  • 超调：大型语言模型的自适应调节方法，无需借助反向传播算法

    本文提出了 HyperTuning 方法用于模型适应，可以生成特定任务的参数并在大量多样化语言任务上进行多任务微调。通过在 P3、MetaICL 和 Super-NaturalInstructions 数据集上的表现，证明该方法可以有效地为新任务生成参数，并改善性能。

    Nov, 2022

  • 通过动态参数调整彻底改变大型语言模型训练

    在大语言模型时代，提高计算资源的有效利用需求变得非常重要。本文基于 LoRA 精调方法，引入了一种新颖的参数高效训练技术，通过频繁改变可训练参数的一部分，提高了有效的预训练。我们的方法不仅在预训练阶段实现了内存和计算开销减少，与当前最先进的参数高效算法相当，而且保持了与完全预训练相当的准确性水平。我们提供了理论分析和实证证据来证明我们的方法的有效性。

    Jun, 2024

  • 预训练语言模型的参数高效微调方法：关键评估与考察

    预训练语言模型与基于它们的参数高效微调方法被综合评述，重点讨论了内存效率和计算资源限制等参数效率问题以及应用于下游任务的挑战和机遇。

    Dec, 2023

  • AAT：音频变换器在不同声学识别任务中的应用

    提出了一种名为 AAT 的基于 Adapter 调谐的高效微调方法，通过冻结音频 Transformer 模型并插入额外可学习的 Adapter，在不损害模型原始普适性的基础上，有效地获取下游任务知识。大量实验证明，该方法在仅优化 7.118% 的参数的情况下，实现了与完全微调相媲美甚至更优的性能，并显示了对其他微调方法的优越性。

    Jan, 2024

  • SPAFIT: 分层渐进调适微调预训练大型语言模型

    本研究提出一种基于模型不同层次具有语言知识定位的 PEFT 方法，称为 Stratified Progressive Adaptation Fine-tuning（SPAFIT）。我们在 GLUE 基准测试中进行的实验证明，我们的 SPAFIT 方法在仅微调其他方法调整参数的一小部分情况下，优于其他 PEFT 方法。

    Apr, 2024