本文探讨了在小语言模型中，模型规模大小，多任务学习，指令调整，fine-tuning 和域内学习等对模型性能影响，其中通用MTL和域内MTL能够分别提升模型相对31%和37.6%的效果，并且与先前的研究结果不同，指令调整仅提供了小幅度的2%性能改进。
Oct, 2022
本文提出了HyperTuning方法用于模型适应，可以生成特定任务的参数并在大量多样化语言任务上进行多任务微调。通过在P3、MetaICL和Super-NaturalInstructions数据集上的表现，证明该方法可以有效地为新任务生成参数，并改善性能。
Nov, 2022
通过观察，本研究发现强化学习领域的 PPO 算法存在计算效率低下的问题，并且基于这些观察，我们开发了一种名为 ReMax 的新算法，通过去除数值模型、简化实现以及减少超参数的方式提高了计算效率，并且在 GPT2 (137M) 模型上实现了2.2倍的速度提升，而不损失性能。
Oct, 2023
通过修剪来高效地压缩神经网络，减少存储和计算需求，同时保持预测性能，我们提出了一种参数高效的修剪后重训练方法，使得修剪和重训练大规模语言模型的任务成为可能。
Dec, 2023
通过参数高效微调能够提高大语言模型的性能，而无需大量的资源和计算。对多语言评估的先前研究表明，英语和其他语言在性能上存在很大差距。此外，开源模型和较大规模的语言模型之间也存在差距。微调是弥合差距、使语言模型更加公平的有效方法。本研究通过对合成多语言指示微调数据上进行 LLaMA-7B 和 Mistral-7B 模型的微调，以评估其对模型在涵盖 23 种语言的五个下游任务上的性能影响。此外，我们还在低秩适应的等级和量化值上进行了实验，以确定它们对下游性能的影响并发现较高的等级和量化值有益于低资源语言。我们发现通过参数高效微调较小的开源模型有时可以弥合这些模型和较大模型性能之间的差距，但对英语性能有所降低。我们还发现微调有时可以提高低资源语言的性能，但在高资源语言上性能可能会下降。
Jan, 2024
大型语言模型(Large Language Models) 在指令或人类反馈方面很难进行全面的微调，但参数高效稀疏微调(sparse fine-tuning)的方法已经在性能上取得了一定的成果，本文将稀疏微调方法扩展到像LLaMA 2 7B和13B这样的最先进的LLMs，实验证明对指令调整进行稀疏微调通常比流行的参数高效微调方法如LoRA表现更好，并且在运行时间上可比较。
改进大型语言模型的细化调整方法，通过使用多样的组合指令集合，提高了模型对不同任务的泛化性能；引入了链式指令的新概念（CoI），使模型能够处理由多个子任务组成的复合指令，将模型性能在多语言摘要生成任务中进行了验证。
Feb, 2024
通过逆向设计适配器，我们介绍了RE-Adapt方法，该方法无需使用额外的数据或训练，可以在新域上对基础模型进行微调，并借助逆向设计的适配器重新适应指令跟踪，以优于其他微调方法。
May, 2024
研究中通过深入研究Fine-tuning的优化策略和技术，探讨了对于具有大量参数的语言模型在GPU资源限制下，平衡内存和运行时间的最佳优化方案。
Jun, 2024
通过细调用于现有数据的多控制调优方法，本文提出一种能够精确控制大语言模型输出的多个语言复杂性的方法。实验证明该方法不仅显著改善了大语言模型的多复杂性可控性，还保持甚至提升了响应质量。